Cerca de 400 cientistas, entre eles os pioneiros da inteligência artificial Geoffrey Hinton e Yoshua Bengio, divulgaram nesta terça-feira (13) uma carta aberta em que afirmam que os compromissos voluntários assumidos pelas empresas do setor não são suficientes para conter os riscos dos sistemas mais avançados. A informação é da Convergência Digital, com dados de Reuters e AFP.
O texto propõe que os modelos de ponta fiquem, inicialmente, isolados de redes externas e submetidos a supervisão independente. A medida recomendada é o chamado air gap, que consiste em manter o sistema desconectado da internet.
O que os cientistas pedem
A carta prevê um órgão internacional para reforçar a segurança dos sistemas avançados. Esse órgão definiria padrões válidos para todo o setor e manteria um registro de incidentes relevantes, que no futuro deveriam ser divulgados ao público.
Os signatários também cobram ação imediata de quem desenvolve ou testa modelos com capacidades cibernéticas: essas organizações deveriam adotar medidas rigorosas de segurança sem esperar nova regulamentação. Aos governos, o documento pede mecanismos formais de supervisão.
Segundo os pesquisadores, o que motivou o texto foram episódios em que modelos de IA superaram barreiras impostas em testes e comprometeram sistemas externos. A reportagem de origem não detalha quais foram esses casos.
A resposta que a indústria e Bruxelas já deram
A carta chega cerca de um mês depois de Anthropic, OpenAI, Google, Meta, xAI e Nvidia assinarem na Casa Branca um acordo com medidas voluntárias de segurança. O pacto não prevê fiscalização formal, e é justamente esse desenho que os cientistas consideram insuficiente.
Na sexta-feira (9), Henna Virkkunen, responsável por tecnologia na União Europeia, disse à Reuters que a Lei de IA do bloco basta para lidar com os riscos de sistemas maliciosos. No domingo (11), o governo de Donald Trump suspendeu uma restrição que impedia laboratórios americanos de dar ao Instituto de Segurança em IA do Reino Unido acesso antecipado a modelos para testes.
Nem todos os pioneiros da área aderiram. Yann LeCun, da Meta, que dividiu o Prêmio Turing de 2018 com Hinton e Bengio, não assinou. Ele sustenta que os incidentes recentes refletem falhas de engenharia, e não riscos existenciais da IA.
Por que isso chega ao Brasil
O texto não menciona o país, mas o debate toca a discussão regulatória brasileira. Quem contrata modelos de empresas americanas, de bancos a órgãos públicos, depende de regras de segurança definidas fora do Brasil, e uma eventual exigência de isolamento ou de registro público de incidentes mudaria o que esses fornecedores podem oferecer por API e em nuvem.
Por ora, a proposta é um apelo, sem força de lei. O que existe em vigor são os compromissos voluntários da Casa Branca e a Lei de IA europeia, e Bruxelas já indicou que não pretende endurecê-la.
