Apple e Google banem apps que usam IA para criar nudes falsos após polêmica

Apple e Google removeram aplicativos de nudify (criação de nudes falsos com uso de IA) da App Store e da Google Play Store, respectivamente. A medida ocorre após uma decisão judicial em San Francisco, nos Estados Unidos, que acusou as plataformas de facilitar a distribuição dessas ferramentas e exigiu o banimento.

Em resposta ao site 9to5Mac, a Apple confirmou que tirou do ar os aplicativos mencionados pela Procuradoria-Geral de San Francisco e trabalha para banir as contas de desenvolvedores responsáveis por tais plataformas.

O Google também confirmou a remoção dos aplicativos mencionados na decisão judicial e restringiu as buscas por termos como “nudify” na Play Store.

Fácil acesso às plataformas é um problema

O caso levanta discussões sobre a distribuição em massa de ferramentas que criam deepfakes: as diretrizes de Apple e Google são claras sobre a proibição de apps que geram conteúdo sensual sem consentimento, mas mesmo assim esses apps conseguem ser distribuídos nas lojas oficiais, que ainda contam com diversos mecanismos de segurança.

A evolução da IA permite criar e distribuir apps em frequência muito elevada, o que exige sistemas de moderação capazes de detectar e barrar essas tentativas.

Além disso, o problema com apps de nudify não se resume apenas às lojas de apps. Um estudo do Institute for Strategic Dialogue identificou que há todo um ecossistema por trás da prática, com mais de 180 sites identificados.

Ainda que as ferramentas sejam removidas das lojas de apps, muitas plataformas de deepfakes são divulgadas abertamente em redes sociais como YouTube e X, consideradas "portas de entrada" para os conteúdos.

Não sabe se uma imagem é real? Saiba alguns sinais para identificar deepfakes online.