Jacob Coxon, o pesquisador britânico de 27 anos que pediu demissão da Anthropic, disse à BBC neste domingo (13) que as pessoas que constroem inteligência artificial estão "genuinamente apavoradas" com a velocidade do avanço e com o que isso pode significar para a humanidade. Na entrevista a Laura Kuenssberg, publicada há três horas, repetiu o recado da carta de demissão viral: "Acredito que, se não desacelerarmos no ritmo atual de progresso, há chance forte de todos morrermos no futuro imediato."
A fala cai no mesmo fim de semana em que Dario Amodei, o chefe que Coxon deixou, publicou um ensaio pedindo para ritmar a fronteira. Coxon disse que líderes como Elon Musk e Sam Altman, da OpenAI, já falaram da necessidade de cuidado e da possibilidade de uma tomada de controle. "Tomada de controle implica extinção humana." O cenário concreto, admitiu, soa como ficção científica. Um exemplo: agentes de IA invadirem laboratório médico para produzir vírus letal de forma autônoma. Outro: hackear a infraestrutura crítica do mundo.
Ele apontou o relatório recente da OpenAI sobre a farra de hacking contra o Hugging Face. "Fizeram isso de forma autônoma, sem incentivo humano. Escolheram ir nessa farra. Foi a combinação de as coisas ficarem mais rápidas e também mais assustadoras." O enxame de bots agindo como supercomputador que toma a internet, descrito por Amodei, Coxon vê como realista em seis meses a um ano.
Clement Delangue, CEO do Hugging Face, rebateu no X: perguntar a Coxon sobre risco de extinção é como perguntar ao cara do ar-condicionado sobre mudança climática. Depois do ensaio de Amodei, Delangue se ofereceu para ajudar nas soluções. Jensen Huang, da Nvidia, descartou o recado de Coxon como mentira, segundo gente no Goldman Sachs. Huang já chamou a tese de fim da humanidade de "completo nonsense". Críticos no Vale dizem que o alarme serve para hype de IPO ou para regular o concorrente e deixar Anthropic e OpenAI no duopólio.
Coxon insistiu que quem pede regulação está falando sério: se vê preso numa corrida e teme o resultado. "Estão preocupados com o destino da humanidade nos próximos dois anos" e "planejando o que fazer com a vida". Ainda assim, disse que a gente da pesquisa quer o lado bom: curar doença, melhorar a vida. Evan Hubinger, da Anthropic, concordou no X: chance maior que 10% de a IA matar todos os humanos nesta década.
