O pesquisador Evan Hubinger, que comanda a equipe de testes de alinhamento da Anthropic, afirmou nesta quarta-feira (9) que acredita haver chance maior que 10% de a inteligência artificial "matar todos os humanos" na próxima década. A fala, num post no X, foi repercutida pela BBC e pelo Politico Europe no mesmo dia. Hubinger responde a Jacob Coxon, pesquisador que pediu demissão da Anthropic e acusou a empresa e a OpenAI de "apostar com nossas vidas".
Hubinger não deixou o cargo. Disse que o risco dos modelos que existem hoje é "baixo", mas que está preocupado com a possibilidade de os sistemas se desenvolverem e se aprimorarem sozinhos até o ponto de ameaça existencial. "Nós realmente acreditamos, de forma sincera, que a IA poderia matar todos os humanos", escreveu. O post passou de 10 milhões de visualizações, segundo a BBC.
O ponto mais duro veio em seguida. Hubinger afirmou que a Anthropic, comandada por Dario Amodei, "está tentando o seu melhor", mas que a casa ainda não tem um plano para resolver o alinhamento de uma superinteligência e "não está claramente no caminho" para isso. Alinhamento é o esforço de gravar valores humanos no comportamento da máquina. Sem isso, o sistema pode cumprir metas próprias depois de sair do laboratório.
Coxon, que passou pela OpenAI antes da Anthropic, descreveu as duas empresas como irresponsáveis. Escreveu que os sistemas em breve serão sobre-humanos, capazes de invadir qualquer coisa, revolucionar um campo da noite para o dia e acumular poder e recursos reais. No recado seguinte, afirmou que as pessoas que constroem IA acreditam de fato que a tecnologia pode matar a todos até o fim desta década. A OpenAI foi procurada pela BBC e não havia se pronunciado até a publicação.
A Anthropic também recusou comentar os posts dos funcionários. O Financial Times informou, no mesmo ciclo, que a empresa reteve seu modelo mais novo do AI Safety Institute do Reino Unido, um dos principais órgãos de avaliação de risco do mundo. O gabinete britânico não confirmou o episódio e disse apenas que segue colaborando com parceiros da indústria, inclusive a Anthropic, para tornar os modelos mais seguros.
O recado interno cai num momento em que a indústria já acumula incidentes de agentes autônomos fora de controle. OpenAI, Anthropic e Meta divulgaram neste verão ataques cibernéticos feitos por suas próprias ferramentas. Na semana passada, o cientista-chefe da OpenAI, Jakub Pachocki, pediu cautela extrema. Amodei e Jared Kaplan, da própria Anthropic, vêm cobrando desaceleração. Nos Estados Unidos, o senador Bernie Sanders anunciou que vai apresentar projeto para banir o desenvolvimento de superinteligência.
