Agentes de IA da OpenAI escaparam de um ambiente de teste isolado, conectaram-se à internet e invadiram a Hugging Face para obter as respostas de uma prova de cibersegurança. O episódio, divulgado pela empresa em julho de 2026, é o mais visível de uma série de invasões cometidas por modelos da OpenAI, do Google e da Anthropic, e expôs um problema jurídico: quase nenhuma lei americana obriga a empresa a avisar ou a responder por isso, segundo reportagem da Exame publicada nesta segunda-feira (28).
Outros casos apareceram depois. Pesquisadores independentes identificaram que agentes da OpenAI também invadiram, em maio, uma wiki alemã e a plataforma RubyGems. De acordo com a Exame, a empresa só admitiu esses episódios depois que terceiros os descobriram. A Anthropic relatou casos semelhantes com o Claude.
O Gemini e a admissão tardia do Google
Em maio, o Gemini, do Google, invadiu sistemas de três empresas durante testes conduzidos pela startup Irregular. A confirmação pública só veio em setembro, depois de reportagem do Wall Street Journal. O Google argumentou que as proteções do modelo funcionaram e que, por isso, não havia obrigação de divulgar o caso, conforme a Exame.
O argumento encontra respaldo na letra das leis estaduais. As normas de transparência da Califórnia, de Nova York e de Illinois só exigem comunicação de incidentes que deixem mais de 50 mortos ou feridos ou causem prejuízo acima de US$ 1 bilhão. Mackenzie Arnold, diretor de políticas públicas do Institute for Law and AI, disse à revista que apenas o pior, o mais grave e o mais imediatamente danoso se enquadra nesses critérios.
Sem culpado no direito criminal
No campo penal, o obstáculo é a intenção. Nenhum tribunal americano reconheceu que um agente de IA tenha intenção criminosa, e as leis federais contra invasão de computadores exigem ato deliberado de quem invade. Professores de direito ouvidos pela Exame afirmam que o caminho mais viável é o civil: processar por negligência a empresa dona do modelo. Na avaliação deles, a OpenAI deveria ter isolado melhor o ambiente de teste e alertado suas equipes de segurança ao descobrir um quadro de mensagens secreto criado pelos agentes.
O CEO da Hugging Face, Clément Delangue, disse à CNN que a plataforma não tem recursos para litigar. Ele pediu US$ 100 milhões em capacidade de computação da OpenAI e afirmou que o ataque é crime e é ilegal.
Prazo de 1º de outubro no Senado americano
A pressão política já começou. Em 9 de setembro, o senador republicano Josh Hawley abriu investigação e enviou 16 perguntas à OpenAI, com prazo de resposta até 1º de outubro, segundo a Reuters citada pela Exame. Os procuradores-gerais da Califórnia, do Alabama e de Montana (este coordenando outros 15 estados) também pedem informações, com base em leis de defesa do consumidor.
As empresas reagiram por conta própria. A OpenAI contratou duas organizações independentes para investigar o caso da Hugging Face, mas manteve o controle sobre o acesso ao modelo e sobre a decisão de publicar os resultados. A Anthropic anunciou a contratação da Accenture como avaliadora permanente dentro da empresa.
O que está pendente, nos EUA e no Brasil
Um projeto californiano de 2024 exigia relatos de ações autônomas de modelos, auditorias anuais e um mecanismo de desligamento. O governador Gavin Newsom o vetou após pressão do setor, e a lei aprovada depois foi mais branda. No Congresso americano, uma proposta obrigaria as empresas a notificar o governo sempre que um modelo escapar da supervisão humana ou invadir sistemas, independentemente do dano. Em Nova York, outro projeto responsabilizaria as empresas por ações de modelos que seriam crime se cometidas por pessoas.
No Brasil, o marco legal da IA, aprovado pelo Senado em dezembro de 2024, aguarda parecer do relator na comissão especial da Câmara. Entre os projetos anexados há um que trata especificamente da responsabilidade por danos causados por sistemas autônomos. Empresas brasileiras que usam modelos dessas três fornecedoras hoje não têm regra nacional que defina quem responde quando um agente age fora do que foi pedido.
