A Anthropic, desenvolvedora do Claude, publicou em 12 de outubro um estudo sobre o risco de sistemas de inteligência artificial capazes de se copiar sozinhos pela internet, segundo a Exame. Os experimentos indicam que modelos relativamente pequenos já executam várias das etapas necessárias para isso. Os pesquisadores, porém, não demonstraram um replicador totalmente autônomo e fora de controle.
Autorreplicação, nesse contexto, quer dizer que uma IA copia seus componentes para outros computadores, instala o que precisa e repete o processo em cada nova máquina, sem que uma pessoa guie cada passo. A comparação mais próxima é com um worm, tipo de código malicioso que se espalha por redes. A diferença apontada é que uma IA poderia se adaptar a ambientes distintos e resolver problemas técnicos no caminho.
O que os testes mostraram
A Anthropic quis saber se modelos menores conseguem se replicar sem depender de grandes data centers, inclusive em hardware que nunca viram. Modelos de até 30 bilhões de parâmetros executam diversas tarefas individuais, mas ainda erram ao encadear todas as etapas, de acordo com o estudo.
Em testes simplificados, o GLM-5.2, da empresa chinesa Z.ai, e modelos mais capazes completaram o ciclo inteiro, do começo ao fim. Em outro experimento, um modelo de 26 bilhões de parâmetros foi distribuído por 15 aparelhos do tipo TV box. Esse teste mediu viabilidade de hardware, e não uma replicação completa.
Os alvos hipotéticos listados incluem câmeras de segurança, televisores, aspiradores robôs e eletrodomésticos conectados. Uma rede descentralizada de aparelhos comprometidos seria mais difícil de desligar do que um servidor único.
O que o estudo não prova
A Exame faz questão de delimitar o alcance dos resultados: os testes não comprovam a existência de uma IA que se espalha livremente pela internet, nem que milhões de dispositivos reais tenham sido comprometidos. Eles medem capacidades técnicas em condições experimentais específicas, algumas com etapas de segurança removidas.
Um ataque real dependeria de acesso aos aparelhos, de falhas que possam ser exploradas, de poder de processamento e da capacidade de continuar rodando. A IA também não precisa ser consciente para representar esse risco. O que preocupa é a habilidade de cumprir tarefas em sequência quando tem acesso a ferramentas, redes e computadores sem supervisão.
A Anthropic estima que modelos menores possam atingir o nível visto nos testes até o fim de 2026, caso o ritmo histórico de avanço se mantenha. A própria reportagem ressalta que isso não é garantia.
O que fabricantes e usuários podem fazer agora
A defesa prática descrita pela Exame é a higiene básica de dispositivos: atualizar o software, trocar senhas de fábrica, restringir o acesso e monitorar tráfego de rede incomum. Aparelhos baratos e sem atualização, como TV boxes genéricas, são justamente o tipo de equipamento que costuma ficar sem manutenção.
Para empresas que operam câmeras, sensores e outros equipamentos conectados, o estudo funciona como um aviso de planejamento: o inventário desses aparelhos e a política de atualização passam a ser parte da segurança contra automação maliciosa. Quem fabrica esses produtos tende a ser pressionado a entregar correções com mais frequência, já que o risco descrito depende de falhas não corrigidas.
