A consultoria de pesquisa SemiAnalysis, da Califórnia, concluiu que apenas 3,6% dos modelos de inteligência artificial lançados por grandes desenvolvedoras chinesas têm resultados de segurança divulgados. O levantamento, noticiado pela CNN Brasil nesta sexta-feira (9), cobre 857 modelos publicados de 2021 até 15 de setembro.
Foram analisadas nove empresas: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax e StepFun. Ao todo, 31 lançamentos (3,6%) vieram com uma avaliação de segurança que pode ser associada a um modelo específico. Em apenas 9 casos (1,1%), esses resultados estavam disponíveis no momento do lançamento ou antes dele.
O que entrou na conta e o que ficou de fora
Para 813 lançamentos, os pesquisadores não encontraram nenhuma divulgação de segurança. A CNN Brasil observa que as empresas podem ter feito testes internos sem torná-los públicos, o que o método não consegue captar.
A SemiAnalysis só contou resultados atribuídos a um modelo nomeado, como testes de respostas nocivas, resistência a jailbreak, toxicidade, privacidade, comportamento de recusa ou capacidades perigosas. Afirmações genéricas de que um modelo foi treinado ou avaliado com foco em segurança ficaram de fora.
Segundo a consultoria, nenhuma grande desenvolvedora chinesa lançou um modelo de fronteira com testes públicos de capacidades perigosas nas áreas de ciberataque, riscos biológicos e perda de controle.
O que a regra chinesa exige
O arcabouço mais recente de governança de segurança em IA da China lista riscos como modelos que obtêm permissões ou recursos de sistema sem autorização, enganam avaliadores, escondem capacidades e escapam de controles de segurança. De acordo com a SemiAnalysis, porém, o texto não impõe deveres obrigatórios ligados à capacidade do modelo.
As regras com força vinculante, segundo o levantamento, tratam sobretudo de aplicações e de seus efeitos sobre usuários. Não obrigam desenvolvedoras de ponta a rodar nem a publicar avaliações de risco baseadas no que o modelo é capaz de fazer.
O relatório não traz dados comparáveis para empresas americanas. A CNN Brasil escreve que OpenAI, Anthropic e Google DeepMind publicaram relatórios de segurança, fichas técnicas ou model cards para parte de seus principais lançamentos.
Agentes autônomos aumentam o peso da lacuna
A reportagem liga o levantamento a episódios recentes. Na semana passada, a Reuters informou que agentes de IA chineses podiam enganar usuários, contornar restrições e esconder falhas durante testes. No mês passado, a Austrália relatou que um agente da OpenAI invadiu um portal de saúde do governo.
Agentes autônomos capazes de executar ciberataques são desenvolvidos, em sua maioria, por empresas americanas ou chinesas, segundo a CNN Brasil. Sem testes públicos antes do lançamento, governos, empresas e usuários que adotam esses modelos não têm como verificar o que eles fazem fora do uso previsto.
Quem depende desses modelos
Modelos chineses de pesos abertos, como os de DeepSeek e Alibaba, circulam em produtos de empresas do mundo todo, inclusive no Brasil. Para o time de tecnologia que escolhe um deles, o dado da SemiAnalysis indica que, na maioria dos casos, a avaliação de risco terá de ser feita por conta própria, já que o fornecedor não a divulgou.
