Três coisas para observar sobre a nova disputa da Anthropic com os EUA

Download E-mail Enviar Aqui vai uma recapitulação sobre a mais recente disputa da Anthropic com o governo dos Estados Unidos: em abril, a empresa disse ter criado um modelo de Inteligência Artificial chamado Mythos, que era tão bom em trabalhar com código que poderia representar uma ameaça global à cibersegurança. A Anthropic deu acesso a um pequeno grupo de especialistas para que eles pudessem ver contra o que estavam lidando. Então, no dia 9 de junho, lançou ao público uma versão modificada chamada Fable, que, segundo a empresa, era mais segura. Naquele mesmo dia, o governo federal disse à empresa que ela era uma ameaça à segurança nacional e impôs controles de exportação ao novo lançamento. Horas depois, a Anthropic revogou o acesso a ambos os modelos. Pessoas preocupadas com os efeitos catastróficos da IA, amplamente chamadas de “doomers”, dizem há anos que a tecnologia representa uma ameaça à humanidade e publicaram propostas sobre como o governo deveria intervir em seu desenvolvimento. Eles acabaram de conseguir sua intervenção governamental, não por causa de uma arma biológica ou de uma IA rebelde, mas em resposta a um modelo que, basicamente, é apenas muito bom em programação. E o resultado até agora parece menos um plano de segurança do que uma reação superficial. Há muito a analisar sobre o que aconteceu naqueles poucos dias que levaram a uma ação tão drástica por parte do governo, e chama a atenção que o CEO da Amazon, Andy Jassy, tenha sido quem disse a autoridades que o Fable seria perigoso. A Amazon tanto investe na Anthropic quanto está criando seus próprios modelos de IA concorrentes. Também é possível que essa seja uma proibição de curta duração, que não resista ao escrutínio jurídico. Por exemplo, não está claro se o fato de a Anthropic oferecer acesso ao Fable realmente conta como “exportá-lo”. Mas já há efeitos em cadeia acontecendo. Para começar, isso está fazendo muita gente não querer depender de empresas americanas de IA. O político francês Bruno Retailleau descreveu a situação como um “alerta” que deveria motivar a Europa a criar mais na área. Mas qualquer visão de transformar Paris no Vale do Silício, defendida por muitos outros líderes europeus após a desativação dos modelos da Anthropic, é complicada por uma grande questão: a China. Modelos de código aberto chineses são muito capazes e incrivelmente baratos, e podem ser baixados para rodar nos servidores de qualquer pessoa, sem regras ou barreiras de proteção. Isso os torna atraentes para empresas que não querem ter seu acesso cortado com base em uma decisão da Casa Branca, mas igualmente atraentes para cibercriminosos, o tipo que a Anthropic esperava afastar ao incorporar barreiras de segurança em seus modelos. É possível que empresas, incluindo as dos EUA e da Europa, decidam que trabalhar com modelos da China é simplesmente mais fácil, como sugere a disparada das ações da startup chinesa Zhipu. Projetando esse cenário, será que a próxima decisão drástica do governo será dizer que empresas americanas que usam modelos da China representam uma ameaça à segurança nacional? Eu não descartaria essa possibilidade. Em segundo lugar, é possível que cortar o acesso aos modelos da Anthropic deixe o país mais vulnerável a ataques de cibersegurança, não menos. Os principais especialistas em cibersegurança disseram algo nesse sentido em uma carta aberta ao governo, escrevendo que o acesso aos modelos da Anthropic estava ajudando pesquisadores a preparar defesas, e que os modelos da empresa não são mais perigosos do que outros modelos líderes amplamente disponíveis. Esse é o risco de aplicar o conceito de não proliferação ao software, tentando controlar e restringir modelos perigosos de IA da mesma forma que o urânio usado em armas nucleares. A terceira coisa que vale observar é como os legisladores dos EUA vão reagir. Lembre-se de que, após a última disputa da Anthropic com o governo sobre como o Pentágono poderia ou não usar seus modelos, uma série de novos projetos de lei foi apresentada para definir os limites da IA militar. Neste momento, os principais atores que definem o modo como a IA é usada são as empresas e a Casa Branca. Fala-se muito sobre mais regulação federal e pesquisas indicam que a maioria dos americanos a deseja. Os legisladores ainda estão tentando entender se devem criar regras sobre como crianças usam chatbots e estão longe de uma resposta clara sobre até que ponto o governo deveria avaliar a segurança dos modelos de IA. Mas, a cada ação drástica da Casa Branca, aumenta a pressão por regulamentações. Para dizer o óbvio, previsões são difíceis quando as atitudes da administração em relação à IA mudam conforme o vento. Quando o presidente Trump tomou posse, descartou o manual restritivo sobre como torná-la segura e prometeu sair do caminho das empresas de tecnologia. A Casa Branca agora chamou a startup de IA mais valiosa de risco à segurança nacional. O que os próximos meses trarão? O post Três coisas para observar sobre a nova disputa da Anthropic com os EUA apareceu primeiro em MIT Technology Review - Brasil.