A ferramenta de detecção de imagens geradas por IA lançada pela Meta nesta semana falhou em identificar suas próprias criações quando submetidas a um recorte simples, segundo análise realizada pela Reuters.
O teste usou 40 imagens geradas pelo Muse Image, novo modelo de geração de imagens da empresa. A ferramenta identificou corretamente todas as 40 originais. Mas, quando as mesmas imagens foram recortadas para aproximadamente um terço a metade do tamanho original, o detector falhou em 55% dos casos.
Como o sistema funciona – e por que falha
A Meta afirma que o sistema de detecção usa uma marca d’água invisível chamada Content Seal, embutida em cada imagem gerada pelo Muse Image. A tecnologia foi projetada para permitir que usuários verifiquem se uma imagem foi criada pelos modelos de IA da empresa – mesmo após edições comuns.
Questionada sobre os resultados da análise da Reuters, a Meta lembrou que a ferramenta ainda está em fase de prévia. A empresa afirmou que a marca d’água é projetada para resistir a edições comuns, mas que o sinal pode ser perdido em recortes severos.
O que dizem os especialistas
Siwei Lyu, professor de ciência da computação da Universidade Estadual de Nova York em Buffalo e pesquisador de forense de imagens de IA, disse à Reuters que sistemas baseados em marca d’água têm limitações conhecidas.
“Métodos baseados em marca d’água podem ser altamente eficazes quando a marca permanece intacta, mas qualquer modificação que remova ou enfraqueça o sinal embutido – como recorte, redimensionamento, compressão pesada ou edição – pode reduzir sua eficácia, dependendo de como a marca d’água foi projetada”, disse Lyu.
Sarah Barrington, pesquisadora de IA e doutoranda na Escola de Informação da UC Berkeley, reconheceu as limitações, mas ponderou: “Como muitas medidas preventivas de cibersegurança ou segurança física, pode não ser totalmente à prova de falhas, mas mesmo que detectemos apenas 90% dos casos, ainda é um grande salto em relação a 0%.”
Contexto e pressão regulatória
A descoberta ocorre em momento delicado: o ano inclui as eleições de meio de mandato nos EUA, quando a circulação de deepfakes e imagens manipuladas tende a aumentar.
Em março, o Conselho de Supervisão da Meta – órgão independente que toma decisões vinculantes sobre moderação de conteúdo – pediu à empresa que fizesse mais para combater a “proliferação de conteúdo de IA enganoso” em suas plataformas e investisse em ferramentas de detecção mais robustas.
A Meta não está sozinha no desafio. Google e OpenAI também alertaram publicamente que suas próprias ferramentas de detecção não são infalíveis contra técnicas de alteração de imagens. O post Detector de IA da Meta falha ao identificar suas próprias imagens após recorte, diz agência apareceu primeiro em Olhar Digital.