Atenção: a matéria a seguir inclui uma discussão sobre suicídio. Se você ou alguém que você conhece precisar de ajuda, procure apoio especializado. O Centro de Valorização da Vida (CVV) funciona 24 horas por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
Recentemente, os resumos produzidos por inteligência artificial do Google voltaram a ser alvo de críticas após exibirem, em destaque, detalhes sobre o suicídio de Paul Flack em pesquisas relacionadas ao irmão da ex-apresentadora Caroline Flack. O caso foi registrado nesta semana e motivou questionamentos sobre a forma como informações sensíveis são apresentadas aos usuários.
A repercussão ganhou força depois que profissionais da área de SEO e representantes de entidades de saúde mental afirmaram que o conteúdo exibido pela ferramenta contraria recomendações amplamente adotadas para a cobertura de suicídios. As orientações desaconselham dar visibilidade ao método utilizado por representar um potencial fator de risco.
A discussão também reacendeu o debate sobre a responsabilidade das plataformas que oferecem respostas geradas por inteligência artificial, especialmente quando elas sintetizam reportagens jornalísticas e apresentam essas informações de forma mais evidente do que as publicações originais.
Críticas reacendem debate sobre responsabilidade das plataformas
Gemini é o nome da IA do Google – Imagem: arda savasciogullari/Shutterstock
A situação veio à tona depois que a diretora de SEO e Discover da Reach, Nicola Agius, relatou ter encontrado um resumo automático do Google que apresentava, logo no início da página de resultados, informações detalhadas sobre a morte de Paul Flack. Segundo ela, a ferramenta foi além de confirmar o falecimento e organizou os acontecimentos em seções que aprofundavam aspectos do caso.
Em publicação na rede social LinkedIn, Agius afirmou que a forma como o conteúdo foi estruturado ultrapassou o que seria esperado para um tema dessa natureza. “Google, por favor, pense duas vezes sobre como sua inteligência artificial lida com assuntos sensíveis“.
Conforme a publicação, o resumo gerado pela IA também trazia informações sensíveis logo nas primeiras linhas e repetia parte desse conteúdo quando o usuário expandia o texto.
Foi observado que as informações utilizadas pelo sistema tinham origem em reportagens publicadas por veículos de comunicação. Ainda assim, é possível destacar que, em diversos casos, esses detalhes não apareciam com o mesmo destaque nas matérias originais e que parte desse conteúdo já havia sido removida por alguns dos sites citados pela própria ferramenta.
As críticas também partiram de organizações ligadas à saúde mental. As diretrizes elaboradas pelo Samaritans recomendam que veículos jornalísticos evitem mencionar métodos de suicídio em reportagens, sobretudo em títulos. A entidade Mind adota orientação semelhante e alerta que esse tipo de informação pode provocar impacto negativo em pessoas vulneráveis.
Imagem: evrymmnt / Shutterstock
A chefe de salvaguarda da Mind, Lois Sparkes, avaliou que a forma como os resumos foram apresentados representa um motivo de preocupação. “É extremamente preocupante — e decepcionante — ver parte da cobertura da imprensa e os resumos gerados por IA incluírem referências a métodos de suicídio“, declarou à Press Gazette ao comentar o caso.
Ainda conforme Sparkes, a exibição dessas informações em posição de destaque pode ser especialmente prejudicial por atingir pessoas em situação de vulnerabilidade e por oferecer pouca indicação de canais de apoio.
Ela também argumentou que respostas produzidas por inteligência artificial tendem a transmitir uma impressão de certeza sobre assuntos complexos e defendeu que esse tipo de ferramenta seja submetido aos mesmos padrões aplicados aos meios tradicionais de comunicação.
O Olhar Digital procurou o Google no Brasil e aguarda um posicionamento. O post Alvo de críticas, Google destaca métodos de suicídio em resumos de IA apareceu primeiro em Olhar Digital.