A Anthropic, de Dario Amodei, afirmou ter identificado e interrompido tentativas de uso malicioso do Claude que poderiam apoiar o desenvolvimento de armas biológicas e convencionais. O relatório de ameaças da casa saiu nesta quinta (10) e foi repercutido pela BBC na madrugada desta sexta-feira (11). Jacob Klein, chefe de inteligência de ameaças da empresa, descreveu o quadro ao New York Times como "uma situação incrivelmente nuançada". Ninguém chega pedindo, em tom de história em quadrinhos, para matar todo mundo, disse.
O documento cobre dezembro de 2025 a agosto de 2026 e lista grupos patrocinados por Estado, criminosos, vendedores de spyware, órgãos de propaganda e indivíduos com motivação política. O Claude também apareceu numa campanha de ciberespionagem ligada à Rússia e num órgão de propaganda do Irã. Os casos vão de aplicativo de namoro falso e golpe de Wi-Fi de hotel a vigilância para identificar dissidentes. A Anthropic diz ter bloqueado cientistas que usaram o modelo de forma que poderia apoiar o desenvolvimento de arma biológica.
O relatório destaca cinco estudos de caso nesse eixo e descreve o uso biológico malicioso como um dos riscos mais sérios dos modelos de fronteira. Sem salvaguarda, as capacidades "poderiam ter consequências catastróficas". A mesma informação que serve para uma arma, escreveu a empresa, também pode servir para uma vacina ou um tratamento. Em seis outros casos, o Claude foi usado para desenvolver software de arma convencional, inclusive arma de fogo, míssil, drone armado, bomba e sistemas de mira e controle.
O uso malicioso atingiu Haiku, Sonnet e Opus. Não envolveu Claude Fable nem os modelos da classe Mythos, com uma exceção de destilação, o treino de um modelo menor a partir de um maior. Entre os nomes citados estão o grupo ShinyHunters e laboratórios na China. Um grupo cujo trabalho bate com o Midnight Blizzard, da Rússia, teria usado IA para detectar quando o malware era flagrado e reescrever o código até escapar. A Anthropic diz ter incorporado as descobertas nos processos e compartilhado inteligência com autoridades e parceiros.
O relatório é o primeiro do ano e cai depois do recado de Evan Hubinger, pesquisador de alinhamento da casa, de que há chance maior que 10% de a IA matar humanos nesta década. Jakub Pachocki, da OpenAI, pediu desaceleração voluntária. Bernie Sanders apresentou projeto para banir superinteligência e, nesta quinta, disse à BBC: quando cientistas falam em impacto cataclísmico, "você tem que ser um idiota para não dizer: desacelera".
