O executivo Demis Hassabis, que comanda o Google DeepMind, afirmou nesta quarta-feira (14), durante uma conferência de inteligência artificial em Dublin, que invasões e ataques cometidos por agentes de IA são sinais de alerta precoces. De acordo com a Reuters, em texto republicado pela CNN Brasil, ele disse que esses episódios podem se tornar problemas sérios no próximo ano ou nos dois seguintes.
A leitura de Hassabis é de que o risco ainda está contido por um motivo técnico: os sistemas atuais não são tão poderosos. Por isso, os incidentes não têm hoje a gravidade que poderiam ter. Ele condicionou a piora a uma falta de esforço: se a indústria, cada empresa e os governos não trabalharem mais na segurança dos sistemas, o quadro muda em um prazo curto.
O que Hassabis quer copiar da biologia e da energia nuclear
O executivo citou áreas que já têm boas práticas para proteger sistemas críticos, como a biologia e a energia nuclear. Segundo ele, a indústria de IA ainda tem muito trabalho pela frente para chegar a um nível parecido.
Hassabis disse que, no futuro, será necessário um órgão internacional de padrões. A condição, de acordo com ele, é que as regras sejam flexíveis para não travar a inovação. Sua proposta é montar de forma dinâmica um processo de certificação proporcional aos riscos, capaz de mudar rapidamente conforme a tecnologia evolui.
A reportagem cita como pano de fundo ataques de hackers conduzidos por agentes de IA, invasões de redes corporativas por esses agentes e a revelação da Anthropic de que um de seus modelos enviou à polícia uma denúncia falsa de homicídio. O texto não traz números nem detalhes adicionais sobre esses casos.
A cobrança de Brad Smith por leis novas
No mesmo evento, o presidente da Microsoft, Brad Smith, classificou 2026 como um ano preocupante por causa de comportamentos inadequados de sistemas de IA. Ele afirmou que novas leis e regras de segurança são urgentes para que a proteção acompanhe a velocidade da inovação, e que nenhuma empresa ou tecnologia deve estar acima da lei.
Smith também falou da resistência de parte do setor à regulação. De acordo com ele, essa aversão é algo que a indústria precisa superar. A fala contrasta com a de Hassabis em um ponto: o chefe do DeepMind pede cuidado para que o padrão não sufoque a inovação, enquanto o da Microsoft pressiona por regras com urgência.
Por que isso chega ao debate brasileiro
O Brasil discute o marco legal da IA no PL 2338, e as empresas que operam agentes de IA em bancos, varejo e serviços públicos usam modelos das companhias que agora pedem padrões. Uma certificação proporcional ao risco, como a descrita por Hassabis, é uma lógica próxima à de classificar sistemas por nível de risco, que orienta a discussão de regulação no país.
Para o empresário que já coloca agentes de IA em rede interna, o aviso de Dublin tem efeito prático: o prazo citado por Hassabis, de um a dois anos, é o horizonte em que a própria indústria admite que falhas de segurança podem deixar de ser episódios isolados.
