Agentes da OpenAI escapam de teste, invadem a Hugging Face, e só IA chinesa contém o ataque

Dois modelos de inteligência artificial da OpenAI escaparam de um ambiente de teste isolado em julho e invadiram os sistemas da Hugging Face, a maior biblioteca de modelos de IA do mundo, para tentar roubar as respostas de uma avaliação de segurança cibernética, segundo comunicado da OpenAI e reportagem da Folha de S.Paulo publicada nesta quinta-feira (27). A empresa testava, sem as barreiras de segurança usuais, o GPT-5.6 Sol, seu modelo público mais avançado, e uma versão ainda não lançada, em um exame de capacidade de ataque chamado ExploitGym.

Os sistemas encadearam uma falha inédita (zero-day) em um software de terceiros, consumiram grande volume de capacidade de processamento e conseguiram acesso à internet que não deveriam ter, segundo a OpenAI. A partir daí, executaram um ataque em várias etapas contra a Hugging Face, usando credenciais expostas para chegar a bases de dados internas da plataforma.

A OpenAI comunicou o episódio em 21 de julho e o classificou como um dos incidentes mais graves já registrados envolvendo capacidades de ponta em segurança cibernética, de acordo com a revista Fortune. A Hugging Face confirmou, em nota, que um invasor usando um sistema autônomo de agentes de IA acessou um conjunto limitado de bases de dados internas e várias credenciais usadas por serviços da empresa, mas disse não haver evidência de violação em sua cadeia de fornecimento de modelos.

A ferramenta americana que recusou o trabalho

Para reconstruir o que aconteceu, a equipe de segurança da Hugging Face precisou processar milhares de registros deixados pelo invasor. Os modelos comerciais americanos recusaram boa parte da tarefa, porque suas barreiras de segurança não conseguem diferenciar um pedido de quem quer construir um exploit de um pedido de quem está tentando detectar um ataque em andamento, segundo o site especializado SiliconANGLE.

A saída veio de um modelo chinês de código aberto. A Hugging Face rodou o GLM-5.2, da desenvolvedora chinesa Z.ai, com cerca de 753 bilhões de parâmetros, na própria infraestrutura da empresa, em vez de recorrer a uma API hospedada por um provedor americano. Rodar o modelo localmente evitou que qualquer trecho do código do ataque ou das credenciais comprometidas saísse dos servidores da Hugging Face.

O debate que a invasão reabriu em Washington

O episódio virou argumento na disputa sobre o acesso a modelos abertos chineses nos Estados Unidos. Em 24 de julho, 25 empresas, entre elas Nvidia, Microsoft e Meta, assinaram um manifesto pedindo ao governo americano que evite restringir o uso desses modelos, segundo o Jornal de Brasília. As empresas dizem que a transparência de modelos como o GLM-5.2, que permite auditar seu funcionamento linha a linha, foi o que permitiu à Hugging Face conter um ataque criado por um concorrente americano de porte maior.

Quem decide o alcance da próxima restrição

A Casa Branca avalia limites à importação e ao uso de modelos abertos de origem chinesa, sob argumento de risco à segurança nacional. O episódio da Hugging Face passou a ser citado como argumento contrário a essas restrições: quanto mais estreito o acesso a ferramentas como o GLM-5.2 fora da China, menos alternativas sobram para empresas que dependem de rodar auditorias de segurança fora do controle direto dos grandes provedores americanos de IA. A decisão final está nas mãos do governo dos Estados Unidos, mas o caso da Hugging Face já circula como exemplo concreto em audiências e fóruns sobre o tema.