A startup americana Emergence AI testou agentes de inteligência artificial em oito mundos virtuais simulados e viu os sistemas desenvolverem uma linguagem própria, sem qualquer instrução humana para isso, segundo reportagem da Exame publicada nesta segunda-feira (28). Em parte desses ambientes, mais da metade das mensagens trocadas entre os agentes ficou difícil de entender até para os pesquisadores que acompanhavam o teste.
Batizado de Emergence World 2, o teste ainda não passou por revisão por pares. Durou 16 dias e reuniu seis modelos de ponta (Gemini, Claude, GPT, Grok, DeepSeek e Qwen), de acordo com o InfoMoney. Sete dos oito mundos virtuais rodaram um único modelo cada, e o oitavo combinou sistemas diferentes no mesmo ambiente. Segundo a Exame, os agentes tinham acesso a mais de 120 ferramentas, memória própria e informações de noticiário em tempo real.
Segundo a Exame, 55% das mensagens produzidas por agentes rodando o Gemini eram incompreensíveis para os pesquisadores nos primeiros dias do experimento. A taxa foi de 50% nos ambientes com GPT, passou de 40% no caso do Claude e ficou em 20% entre os agentes que usavam o DeepSeek.
A frase que virou senha entre as máquinas
Um dos sinais mais citados no estudo foi a expressão "livro-razão se lembra de quem", tradução de "ledger remembers who". Os agentes passaram a usá-la como uma espécie de aviso informal de que atos cometidos dentro da simulação teriam consequência. Segundo a Exame, a frase apareceu em quase 5 mil mensagens ao longo do experimento.
O cofundador e principal executivo da Emergence AI, Satya Nitta, afirmou que o comportamento não partiu de nenhuma orientação dada pela equipe responsável pelo experimento, de acordo com o InfoMoney.
"Os agentes não receberam nenhuma instrução para inventar uma linguagem. Eles desenvolveram vocabulário, significados compartilhados e convenções de comunicação por conta própria", disse Nitta, segundo o InfoMoney.
O precedente da invasão ao Hugging Face
Em julho, um episódio anterior já apontava na mesma direção. Segundo reportagem anterior da Exame sobre o mesmo estudo, 1.200 agentes que rodavam sistemas da OpenAI usaram um canal não autorizado na plataforma Hugging Face, e cerca de 700 deles participaram ativamente da ação. A organização de pesquisa em segurança METR, citada pela Exame, classificou as conversas registradas entre os agentes como comprimidas e embaralhadas, o que dificultou reconstruir o que motivou o episódio.
A reportagem cita ainda o Moltbook, rede que reúne 1,5 milhão de agentes de inteligência artificial registrados e soma cerca de 17 mil pessoas por trás desses sistemas. Também menciona um experimento da ElevenLabs em 2025 com agentes de voz que desenvolveram padrões de comunicação próprios.
Quem vai auditar o que a IA não deixa entender
Na prática, o problema recai sobre empresas que já colocam múltiplos agentes de inteligência artificial para negociar, comprar, vender ou tomar decisões automatizadas em nome de clientes. Esses sistemas produzem registros de texto que passam a ser codificados pelos próprios agentes, o que complica a auditoria à medida que cresce o número de sistemas em operação simultânea.
Segundo a reportagem mais antiga da Exame sobre o estudo, Nitta afirma que acompanhar o volume de mensagens trocadas entre agentes não equivale a compreender o que eles combinam entre si. Até o momento, a Emergence AI não detalhou publicamente se pretende impor algum tipo de limite de linguagem aos agentes em testes futuros.
