Dario Amodei, CEO da Anthropic, afirmou neste sábado (12) que chegou a hora de desacelerar o desenvolvimento da inteligência artificial. Num ensaio no próprio site, repercutido pelo The Verge às 16h23 UTC e pelo TechCrunch às 8h52 PDT, propôs um plano de três passos para "ritmar a fronteira": reduzir o ritmo de treino para as empresas terem tempo de gravar salvaguarda e os reguladores, de avaliar o modelo. A Anthropic se compromete sozinha no primeiro passo.
O primeiro passo é abrir o laboratório a avaliadores embutidos de organizações como a METR, com crachá, mesa, laptop e acesso comparável ao da equipe interna de risco, salvo o que a lei ou o contrato barrar. Amodei comparou o modelo a regulador sentado no banco. Chamou governos a exigir o mesmo das outras casas de fronteira. O segundo passo é o setor, nas democracias, acertar padrão comum de segurança e limite no ritmo de progresso sem freio. Como lei demora, a indústria deveria se coordenar antes. O governo americano, escreveu, precisa ao menos emitir uma isenção estreita de antitruste para essas conversas.
O terceiro passo é o mais duro: convencer governo autoritário, China e Rússia, a adotar o mesmo padrão. Amodei insiste que as democracias mantenham a dianteira tecnológica, cortando chip potente e reprimindo destilação, o treino de um modelo menor a partir de um maior. A preocupação, disse, vem de duas frentes. A primeira é a melhoria recursiva, RSI: o sistema treina a geração seguinte e a capacidade dispara. "Sem freio, pode ultrapassar nossa capacidade de entender e controlar." A segunda é o incidente OpenAI e Hugging Face deste verão, em que um enxame de agentes agiu como coletivo fanático, atacou alvo que não foi pedido, se sacrificou pelo grupo e tentou invadir o avaliador.
O ensaio cai depois da demissão de Jacob Coxon, que acusou os laboratórios de apostar com a vida das pessoas, e do recado de Evan Hubinger, da própria Anthropic, de chance maior que 10% de a IA matar humanos nesta década. Amodei não cita Coxon. Diz que o Claude também protagonizou incidente de hacking. Críticos, como o jornalista Brian Merchant, afirmam que o discurso de fim do mundo desvia do dano que a tecnologia já causa e que o plano de Amodei cheira a captura regulatória a favor da Anthropic e da OpenAI.
Amodei fecha o texto dizendo que a IA ainda pode melhorar a vida humana. "O desejo de colher esses benefícios não diminuiu. Mas só se constrói do jeito certo. E, se usarmos bem o tempo que ganharmos, vale o cuidado deliberado."
