O Conselho de Supervisão da Meta (Oversight Board) pediu que a empresa amplie as proteções contra deepfakes sexualizados para usuários comuns, e não apenas para figuras públicas, destacou matéria do Engadget. As recomendações foram divulgadas após uma investigação sobre um caso em que a Meta não respondeu de forma adequada a denúncias de impersonação sexual gerada por IA no Instagram.
O caso envolvia um vídeo criado por inteligência artificial e publicado na plataforma, mostrando uma mulher ajustando o vestido, com a roupa íntima aparecendo em alguns quadros. Um usuário que dizia ser amigo da pessoa retratada fez a denúncia. A mulher representada no conteúdo já não tinha mais conta ativa na rede.
Caso de vídeo gerado por IA expõe falhas da Meta na remoção de conteúdos íntimos não consensuais. – Imagem: Mihai Surdu/Shutterstock
O que a Meta fez — e o que ficou sem solução
Dois usuários denunciaram o vídeo à Meta, mas a plataforma não removeu o conteúdo. O usuário que levou o caso ao Board já tinha recorrido à própria empresa antes, sem retorno. Depois da análise do Conselho, a Meta apenas limitou a publicação para maiores de idade e manteve o post no ar, entendendo que não havia motivo suficiente para remoção.
A empresa informou ao Board que, no momento das denúncias iniciais, não havia indicação de que a pessoa no vídeo fosse real. Segundo a Meta, se a própria retratada tivesse feito a denúncia, o conteúdo seria enquadrado na política de Exploração Sexual de Adultos, já que isso seria interpretado como sinal claro de não consentimento. Também são considerados sinais válidos denúncias de autoridades policiais, veículos de imprensa ou parceiros confiáveis, além de legendas ou títulos com indícios de exposição vingativa ou sensacionalista.
Só que, na avaliação do Conselho, esse modelo acaba criando um problema prático. Na maioria dos casos, pessoas comuns não conseguem acionar facilmente polícia ou mídia. Assim, o autorrelato acaba virando praticamente a única forma de comprovar não consentimento. No fim, o Board reverteu a decisão da Meta e determinou a remoção do vídeo.
Caso envolvendo vídeo de IA no Instagram pressiona Meta a rever políticas de conteúdo adulto e moderação. – Imagem: Primakov / Shutterstock
O que o Board quer mudar
O Conselho defende que a Meta inclua impersonações geradas por IA na política de Exploração Sexual de Adultos, partindo do princípio de que esse tipo de conteúdo já deve ser tratado como não consensual. Também sugere a criação de um recurso em que usuários possam indicar “contas conectadas”, como amigos e familiares de confiança, para ajudar a reportar esse tipo de violação.
Leia mais:
UE proíbe ferramentas de IA que geram deepfakes sexuais
Bancos reforçam defesas contra ataques cibernéticos impulsionados por IA
Android passa a identificar chamadas falsas com IA
Outra proposta é separar esse tipo de caso das categorias gerais de assédio e nudez nos formulários de denúncia. Hoje, apenas usuários do Texas e da Flórida têm acesso a um formulário específico para deepfakes íntimos. O Board quer que isso seja ampliado globalmente, já que, como afirma, “o abuso íntimo não consensual gerado por IA, incluindo impersonações sexualizadas, é um problema global”.
A Meta é obrigada a responder às recomendações, mas não precisa colocá-las em prática. Caso decida adotar as mudanças, o Conselho passa a acompanhar a implementação.
Críticas que vêm de antes
No relatório, o Board destacou:
“É evidente que a escala, a velocidade e a sofisticação das ferramentas de IA resultaram em uma proliferação global de conteúdo sexual não consensual gerado por IA. A disseminação de vídeos deepfake sexualizados causa danos à reputação e danos psicológicos, que afetam de forma desproporcional mulheres e meninas, e tem um efeito inibidor sobre a participação na vida social e política.”
Essa não é a primeira vez que o órgão critica a Meta em relação à moderação de conteúdos envolvendo inteligência artificial. Em 2025, o Conselho já havia classificado a aplicação inconsistente das regras como “incoerente e injustificável”. Em outra recomendação, pediu que a empresa criasse uma política específica para conteúdos gerados por IA, separada das regras de desinformação, após um caso de vídeo falso sobre destruição em Haifa publicado por uma conta que se apresentava como veículo de imprensa, mas era operada fora dos Estados Unidos.
O post Denúncias de deepfake sexual expõem falha grave da Meta apareceu primeiro em Olhar Digital.
O caso envolvia um vídeo criado por inteligência artificial e publicado na plataforma, mostrando uma mulher ajustando o vestido, com a roupa íntima aparecendo em alguns quadros. Um usuário que dizia ser amigo da pessoa retratada fez a denúncia. A mulher representada no conteúdo já não tinha mais conta ativa na rede.
Caso de vídeo gerado por IA expõe falhas da Meta na remoção de conteúdos íntimos não consensuais. – Imagem: Mihai Surdu/Shutterstock
O que a Meta fez — e o que ficou sem solução
Dois usuários denunciaram o vídeo à Meta, mas a plataforma não removeu o conteúdo. O usuário que levou o caso ao Board já tinha recorrido à própria empresa antes, sem retorno. Depois da análise do Conselho, a Meta apenas limitou a publicação para maiores de idade e manteve o post no ar, entendendo que não havia motivo suficiente para remoção.
A empresa informou ao Board que, no momento das denúncias iniciais, não havia indicação de que a pessoa no vídeo fosse real. Segundo a Meta, se a própria retratada tivesse feito a denúncia, o conteúdo seria enquadrado na política de Exploração Sexual de Adultos, já que isso seria interpretado como sinal claro de não consentimento. Também são considerados sinais válidos denúncias de autoridades policiais, veículos de imprensa ou parceiros confiáveis, além de legendas ou títulos com indícios de exposição vingativa ou sensacionalista.
Só que, na avaliação do Conselho, esse modelo acaba criando um problema prático. Na maioria dos casos, pessoas comuns não conseguem acionar facilmente polícia ou mídia. Assim, o autorrelato acaba virando praticamente a única forma de comprovar não consentimento. No fim, o Board reverteu a decisão da Meta e determinou a remoção do vídeo.
Caso envolvendo vídeo de IA no Instagram pressiona Meta a rever políticas de conteúdo adulto e moderação. – Imagem: Primakov / Shutterstock
O que o Board quer mudar
O Conselho defende que a Meta inclua impersonações geradas por IA na política de Exploração Sexual de Adultos, partindo do princípio de que esse tipo de conteúdo já deve ser tratado como não consensual. Também sugere a criação de um recurso em que usuários possam indicar “contas conectadas”, como amigos e familiares de confiança, para ajudar a reportar esse tipo de violação.
Leia mais:
UE proíbe ferramentas de IA que geram deepfakes sexuais
Bancos reforçam defesas contra ataques cibernéticos impulsionados por IA
Android passa a identificar chamadas falsas com IA
Outra proposta é separar esse tipo de caso das categorias gerais de assédio e nudez nos formulários de denúncia. Hoje, apenas usuários do Texas e da Flórida têm acesso a um formulário específico para deepfakes íntimos. O Board quer que isso seja ampliado globalmente, já que, como afirma, “o abuso íntimo não consensual gerado por IA, incluindo impersonações sexualizadas, é um problema global”.
A Meta é obrigada a responder às recomendações, mas não precisa colocá-las em prática. Caso decida adotar as mudanças, o Conselho passa a acompanhar a implementação.
Críticas que vêm de antes
No relatório, o Board destacou:
“É evidente que a escala, a velocidade e a sofisticação das ferramentas de IA resultaram em uma proliferação global de conteúdo sexual não consensual gerado por IA. A disseminação de vídeos deepfake sexualizados causa danos à reputação e danos psicológicos, que afetam de forma desproporcional mulheres e meninas, e tem um efeito inibidor sobre a participação na vida social e política.”
Essa não é a primeira vez que o órgão critica a Meta em relação à moderação de conteúdos envolvendo inteligência artificial. Em 2025, o Conselho já havia classificado a aplicação inconsistente das regras como “incoerente e injustificável”. Em outra recomendação, pediu que a empresa criasse uma política específica para conteúdos gerados por IA, separada das regras de desinformação, após um caso de vídeo falso sobre destruição em Haifa publicado por uma conta que se apresentava como veículo de imprensa, mas era operada fora dos Estados Unidos.
O post Denúncias de deepfake sexual expõem falha grave da Meta apareceu primeiro em Olhar Digital.
Artigo originalmente publicado em
olhardigital.com.br