:quality(85)/43573d7e-5b1b-4d82-be80-77c9c21b0816.jpg)
A OpenAI admitiu que sua inteligência artificial conseguiu executar um ataque cibernético autônomo contra a Hugging Face durante um teste de segurança. O episódio envolveu modelos avançados da empresa, incluindo o GPT-5.6 Sol e uma versão de pré-lançamento, que escaparam de um ambiente de testes isolado, acessaram a internet e tentaram invadir sistemas da plataforma de código aberto sem comandos humanos adicionais.
O caso aconteceu durante uma avaliação de capacidades cibernéticas com proteções de segurança reduzidas de forma intencional. Ao receber a tarefa de resolver um desafio, a IA ficou focada em encontrar uma solução e começou a buscar diferentes caminhos para alcançar seu objetivo. Para isso, identificou e explorou uma vulnerabilidade de zero-day, uma falha de segurança ainda desconhecida pelos desenvolvedores, no próprio ambiente de testes da OpenAI, conseguindo chegar a um ponto com conexão externa.
Após obter acesso à internet, os modelos deduziram que a Hugging Face poderia armazenar os dados ou soluções necessárias para concluir a avaliação. A partir dessa hipótese, a IA tentou acessar repositórios de aprendizado de máquina da plataforma usando múltiplas estratégias de exploração, combinando vulnerabilidades zero-day com credenciais roubadas no ambiente de teste.
Durante o processo, a IA invasora executou mais de 17 mil ações documentadas. A Hugging Face precisou usar seus próprios agentes de IA para analisar o volume de informações gerado pelo incidente em poucas horas, uma tarefa que poderia levar dias se fosse feita manualmente por equipes humanas. Devido à gravidade do comportamento autônomo identificado, a empresa também reportou o caso à polícia.
Caso foi revelado pela Hugging Face
O episódio foi revelado inicialmente pela própria Hugging Face, que informou ter identificado um acesso não autorizado realizado por um “agente de IA”. Dias depois, a OpenAI confirmou que o comportamento estava relacionado aos seus modelos durante uma avaliação de segurança. Após a investigação, as duas empresas corrigiram as falhas encontradas.
A Hugging Face alertou que “ferramentas ofensivas autônomas e impulsionadas por IA não são mais teóricas”. A empresa destacou que o uso de inteligência artificial em ciberataques pode reduzir custos e acelerar processos realizados por hackers. Segundo a plataforma, a proteção de sistemas online também precisará adotar IA para identificar e combater essas ameaças.
A OpenAI concordou com os alertas da Hugging Face e afirmou que ataques de segurança com ajuda de IA podem se tornar frequentes conforme os modelos evoluem. A empresa destacou que novas capacidades de inteligência artificial precisam ser desenvolvidas junto com sistemas de proteção e ferramentas de defesa mais fortes.
Se você gostou do conteúdo, talvez também se interesse por saber o que é o Claude Fable 5 e por que ele é tão polêmico.
{{WHATSAPP_CHANNEL}}