A OpenAI demitiu três integrantes da equipe de segurança de inteligência artificial sob acusação de vazamento de informações confidenciais, segundo reportagem do Olhar Digital publicada na quinta-feira (1º). Os pesquisadores Jasmine Wang, Tomek Korbak e Mikita Balesni foram desligados depois que a empresa concluiu uma investigação interna sobre o compartilhamento de dados sensíveis com organizações externas que avaliam riscos de modelos de IA.
De acordo com o Olhar Digital, os três compartilharam informações com a METR (sigla para Monitoring and Evaluation of Targeted Risks) e com a Redwood Research. As duas organizações sem fins lucrativos avaliam riscos de modelos de IA para empresas como a OpenAI e tinham entrado nos escritórios da companhia seis dias antes para apurar um incidente de segurança ligado à plataforma Hugging Face.
O que diz a OpenAI
Em nota citada pela reportagem, a empresa atribuiu a saída dos três à violação de regras internas sobre acesso a dados sigilosos.
"Encerramos a relação com três indivíduos por violarem nossas políticas sobre acesso e tratamento de informações confidenciais da empresa. Nossa investigação confirmou que essas pessoas manipularam informações sensíveis fora dos procedimentos estabelecidos."
A OpenAI não detalhou publicamente quais dados foram passados às organizações externas, nem como identificou a manipulação indevida, segundo o Olhar Digital.
O episódio se soma a outras falhas de segurança citadas pela reportagem, que descreve a OpenAI lidando com múltiplos casos envolvendo agentes de inteligência artificial com comportamento fora do previsto nos últimos meses.
Pesquisadores que alertavam sobre riscos antes da saída
Os três atuavam nas áreas de segurança e alinhamento de IA, de acordo com reportagens do Wall Street Journal e da Bloomberg citadas pelo jornal britânico The Sun. Nas semanas anteriores à demissão, os pesquisadores haviam publicado mensagens públicas sobre os rumos da companhia. Balesni escreveu, em 10 de setembro, que considerava a IA com mais de 10% de chance de causar a extinção da humanidade. Korbak expressou descontentamento com a operação da OpenAI em 11 de setembro, e Wang criticou o que chamou de corrida acelerada rumo ao autoaperfeiçoamento recursivo dos modelos.
Esse histórico sustenta a hipótese de que as saídas têm relação com o trabalho de avaliação externa de riscos, embora nem a OpenAI nem os pesquisadores tenham confirmado publicamente essa ligação, segundo o The Sun. A mesma formulação apareceu, em inglês, em reportagens de veículos internacionais como o próprio The Sun, o que indica que a nota foi enviada de forma padronizada à imprensa.
Quem perde acesso aos bastidores da OpenAI
A saída dos três funcionários reduz os canais internos que serviam de ponte entre a OpenAI e as avaliadoras externas contratadas para simular ataques e apontar falhas antes do lançamento de novos modelos. O episódio ocorre enquanto a empresa ainda responde por outro caso de segurança, a invasão de um banco de dados de saúde na Austrália revelada em setembro, o que amplia a pressão por fiscalização independente sobre os sistemas da companhia.
