TikTok distribui mais vídeos falsos de IA do que o YouTube Shorts

Uma pesquisa da plataforma de edição de vídeo Kapwing revelou que o TikTok distribui três vezes mais conteúdos de baixa qualidade gerados por inteligência artificial (IA), popularmente chamados de "AI slop", do que o YouTube Shorts. TikTok recua em recurso de IA após erros bizarros em vídeos Sabia que os funcionários do TikTok podem ler suas mensagens privadas no app? O estudo aponta que 59% dos vídeos recomendados para contas novas no TikTok são gerados por ferramentas automatizadas. No YouTube Shorts, o índice registrado para o mesmo cenário de novos usuários é de 21%. Os pesquisadores analisaram um total de 10.742 vídeos no TikTok distribuídos em 20 categorias populares. A análise também monitorou especificamente os primeiros 500 vídeos exibidos na página "Para Você" (For You) de um perfil recém-criado, sem histórico prévio de navegação. -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- Os dados indicam que o sistema de recomendação do TikTok expõe o usuário a produções sintéticas antes de sequer coletar preferências de consumo. Caso a conta interaja com esse material inicial, o algoritmo intensifica a entrega de conteúdos similares. No TikTok, há uma tarja de identificação de IA que acompanha os vídeos feitos pela tecnologia (Imagem: Reprodução/Unsplash) Conteúdo infantil concentra maior volume de materiais sintéticos O relatório da Kapwing identificou que a categoria voltada para o público infantil possui a maior densidade de conteúdos automatizados de baixa qualidade. No monitoramento da hashtag #CartoonKids, 97 de cada 100 vídeos analisados foram produzidos por IA, restando apenas três criações de origem humana. Outras marcações populares do segmento registraram índices elevados: as hashtags #cartoons e #babysong atingiram 83% de vídeos sintéticos, enquanto a tag #forkids alcançou 79%. Essas produções infantis costumam exibir personagens conhecidos inseridos em cenários incomuns, vozes sintéticas e animações com distorções visuais frequentes. Erros conceituais práticos, como lições de contagem com a numeração incorreta, também foram identificados nas publicações de caráter educativo. O problema se estende para as áreas de ciência, saúde e história, nas quais a propagação de dados incorretos ou deepfakes estruturados compromete a precisão factual e facilita a desinformação. As empresas responsáveis pelas plataformas adotaram medidas distintas para gerenciar o volume de publicações automatizadas. O TikTok disponibilizou uma ferramenta de controle que permite aos usuários aumentar ou diminuir a exibição de conteúdos criados por IA em seus feeds, além de investir em iniciativas de alfabetização digital. Jade Nester, diretora de políticas públicas da empresa na Europa, afirmou que o objetivo da função é dar autonomia de escolha com base nas preferências individuais dos usuários. Já o YouTube implementou diretrizes para a rotulagem obrigatória de vídeos gerados por IA, porém a regra não altera os critérios de recomendação do algoritmo ou a qualificação do material para monetização. Leia a matéria no Canaltech.