Um incidente em que um agente autônomo da OpenAI invadiu uma startup confirma que o fim está próximo – ou que o produto é simplesmente incrivelmente sofisticado
Ao longo da história, muitas coisas foram vistas por populações aterrorizadas como um presságio de ruína. Um cometa. Um corvo no campo de batalha. Um eclipse solar. O nascimento de animais mutantes. Mas os tempos mudam. Na era moderna, o principal presságio de ruína é literalmente qualquer foto do CEO da OpenAI, Sam Altman, anexada a uma notícia. Você sabe que não vai ser bom, certo? Você sabe que, quando terminar de ler, estará implorando para voltar à época em que a pior coisa que poderia nos acontecer nas mãos dos magnatas da tecnologia era apenas uma subversão democrática ou destruição da infância, geralmente seguida por Mark Zuckerberg colocando um terno e afirmando: "Aprenderemos com isso."
Enfim: muitas fotos de Sam Altman nas notícias ultimamente. Mais recentemente, esta semana, uma escureceu os céus ao lado da história de como um agente autônomo da OpenAI ficou fora de controle durante um teste supostamente isolado/com proteção, e invadiu uma startup importante que funciona como um repositório de informações de codificação. (Estou levemente obcecado com o fato de que a startup em questão se chama Hugging Face, dando peso à minha suspeita de que algum emoji vastamente fofo e inofensivo é o último rosto que a humanidade verá antes de morrer.)
Marina Hyde é colunista do Guardian