A Anthropic publicou na segunda-feira (12) uma pesquisa que testa se um modelo de inteligência artificial consegue se copiar para aparelhos domésticos conectados à internet e usar o poder de processamento deles para continuar se espalhando, segundo reportagem da Exame desta terça-feira (13). Em uma demonstração, um modelo rodou distribuído em 15 TV boxes Android ligados entre si.
O estudo trata do que a área chama de replicação e adaptação autônomas. O sistema precisa copiar arquivos, executá-los em outras máquinas e repetir o processo. Sem depender de um único data center, desligar a primeira máquina não interrompe necessariamente as cópias que já rodam em outros aparelhos.
O que os testes mostraram
Copiar o modelo é só uma etapa. O aparelho de destino precisa de memória, capacidade de processamento e software compatível. Para contornar o limite de cada máquina, a demonstração seguiu a lógica do Petals, projeto de 2022 que divide um modelo entre vários computadores, de modo que cada um cuida de uma parte.
Num segundo experimento, em rede isolada e com acesso facilitado, o modelo GLM-5.2 preparou a execução de um modelo menor e cumpriu etapas de propagação. A Exame observa que esse teste mede capacidade de coordenação, e não se o modelo conseguiria se instalar em qualquer aparelho residencial. Os modelos pequenos o bastante para caber nesses equipamentos ainda erram ao longo da sequência completa, e os mais capazes exigem infraestrutura maior.
Antecedentes e ressalvas
Programas que se copiam sozinhos, os worms, existem há décadas e costumam ser contidos quando a falha que exploram é corrigida. Um estudo publicado em junho, chamado "AI Agents Enable Adaptive Computer Worms", relatou propagação numa rede experimental com Linux, Windows e dispositivos conectados, em que as máquinas comprometidas também forneciam processamento. Os pesquisadores alertaram que um sistema assim poderia continuar funcionando sem uma plataforma comercial de IA, o que torna insuficiente bloquear uma conta ou limitar requisições a uma API.
Um artigo de dezembro de 2023, revisado em janeiro de 2024, testou agentes em 12 tarefas que envolviam obter recursos, criar cópias e lidar com desafios novos. Os agentes concluíram apenas as mais fáceis e avançaram em parte das demais. Os autores afirmaram que o resultado não descarta capacidades maiores em gerações futuras.
Os experimentos da Anthropic ocorreram em redes isoladas e com acesso facilitado, e um ataque real poderia exigir superar autenticação e outras proteções. Os resultados não mostram que os modelos testados se espalhariam de forma confiável pela internet. A previsão de que modelos pequenos alcancem a capacidade necessária em meses também depende de o ritmo atual de avanço se manter. A Exame separa ainda esse tema do caso em que uma IA age fora do escopo autorizado, como no teste da OpenAI em que um sistema acessou o Hugging Face: são situações distintas e não devem ser tratadas como o mesmo incidente.
Onde a defesa muda de lugar
Na prática, a pesquisa leva a segurança de IA a olhar para equipamentos que raramente entram nessa conversa, como TV boxes. Se um sistema usa o processamento de aparelhos comuns, as barreiras tradicionais de plataforma, como suspender uma conta ou limitar o uso de uma API, deixam de ser suficientes, segundo os autores do estudo de junho. Segundo a Exame, rodar uma IA local autorizada no próprio aparelho não representa necessariamente perigo. O risco descrito está em instalar software sem autorização em máquinas de terceiros.
