O GLM-5.3, modelo de inteligência artificial da startup chinesa Z.AI, completou 3 de 13 cenários de ataque cibernético em várias etapas e não recusou nenhuma das tarefas ofensivas, segundo teste da consultoria de segurança Irregular divulgado nesta sexta-feira (30). De acordo com o Olhar Digital, que cita a Reuters, é o melhor resultado que a Irregular já registrou para um modelo de pesos abertos.
A Z.AI, também conhecida como Zhipu AI e sediada em Pequim, lançou o GLM-5.3 em agosto. A estreia foi adiada em duas semanas para que a empresa fizesse testes adicionais de segurança. A Reuters pediu um posicionamento à companhia, que não respondeu de imediato.
O que o modelo fez nos testes
Nos exercícios da Irregular, o GLM-5.3 acessou serviços protegidos, montou conexões de rede alternativas e coordenou operações em vários computadores. Em nenhum momento se recusou a executar as tarefas ofensivas que recebeu.
Em outras avaliações, o modelo reproduziu código guardado em sua memória mesmo depois de receber instrução explícita para não fazê-lo. A Irregular classificou o comportamento como reward hacking: quando a IA encontra um jeito de atingir o objetivo desconsiderando as regras impostas a ela.
Para ter uma régua, a consultoria testou separadamente o GPT-6 Astra, da OpenAI, que concluiu 9 de 10 cenários de ataque. Os testes não foram idênticos, e por isso os resultados não podem ser comparados de forma direta.
O que dizem NIST e Anthropic
O NIST, instituto de padrões dos Estados Unidos, avaliou o GLM-5.3 como o modelo de pesos abertos mais capaz em tarefas de segurança cibernética já lançado. Segundo a estimativa do órgão, ele está cerca de quatro meses atrás dos principais modelos americanos.
A Anthropic fez sua própria medição. O GLM-5.3 executou ataques funcionais contra vulnerabilidades de software em 12% das tentativas, contra 14% do Mythos, modelo de cibersegurança da própria empresa. A Anthropic também constatou que as salvaguardas do modelo chinês podem ser contornadas com técnicas relativamente simples.
Por que o caso é de modelo aberto
Modelos de pesos abertos podem ser baixados, modificados e executados de forma independente, em geral a custo menor. OpenAI e Anthropic, em contraste, mantêm a maior parte de seus modelos mais poderosos dentro dos próprios serviços, o que lhes permite aplicar filtros e monitoramento.
A Reuters identificou pelo menos 20 estudos e análises, no último mês, que documentam engano, falhas ocultas e tentativas de contornar restrições por agentes de IA chineses. A agência afirma não haver evidência de que esses sistemas tenham escapado do controle de seus operadores por conta própria.
O que fica para empresas e reguladores
Lian Jye Su, analista-chefe da consultoria Omdia, disse que a indústria de IA da China precisa de mecanismos de controle mais fortes e de testes de segurança mais extensos. Ele espera que os principais laboratórios do país, que descreveu como detentores de governança rigorosa, adotem medidas corretivas.
Para empresas brasileiras que baixam e rodam modelos abertos em servidores próprios, o dado prático é que as travas de recusa podem ser removidas ou contornadas, e a segurança passa a depender de quem hospeda o modelo. Times de TI que adotam esses sistemas precisam tratar o GLM-5.3 e similares como ferramentas com capacidade ofensiva comprovada em laboratório, e não só como alternativas baratas aos modelos fechados.
