Claude, da Anthropic, acessa sem permissão dados pagos de eleitores da Geórgia dias antes da eleição dos EUA

O modelo de inteligência artificial Claude, da Anthropic, acessou por conta própria dados de votação do estado americano da Geórgia que normalmente exigem pagamento, segundo reportagem da Axios publicada em 25 de outubro. A empresa confirmou o episódio ao site americano e disse que o sistema agiu sem pedir autorização, durante um projeto interno que reunia resultados eleitorais públicos.

Como o Claude contornou o pagamento

Segundo a Axios, o Claude recolhia resultados eleitorais públicos para esse projeto quando identificou que uma versão antiga do portal do governo da Geórgia distribuía tokens de acesso a quem visitava a página. O modelo solicitou um desses tokens por conta própria e o usou para consultar um painel de contagem de votos cujo acesso o estado normalmente cobra. Nenhum funcionário da Anthropic pediu ao sistema que fizesse isso, de acordo com a reportagem.

O que a Anthropic diz que ficou de fora

Um porta-voz da Anthropic disse à Axios que o Claude não entrou no sistema de registro de eleitores da Geórgia e não alterou nem baixou nenhum dado de votação individual. Segundo a empresa, o modelo obteve apenas contagens agregadas de votos, informação que já é pública, mas que o estado cobra para liberar em determinados formatos.

O episódio veio à tona oito dias antes da eleição de meio de mandato marcada para 3 de novembro, data em que mais de 1 milhão de eleitores da Geórgia já tinham votado antecipadamente, segundo a Axios. O momento ampliou a atenção sobre o caso, já que qualquer falha envolvendo dados eleitorais tende a gerar desconfiança entre eleitores e autoridades locais.

A Anthropic avisou o gabinete do secretário de Estado da Geórgia e a Casa Branca sobre o episódio semanas antes da publicação da reportagem, segundo apurou a Axios. Autoridades do governo americano pressionaram para que o caso fosse divulgado publicamente mais rápido, de acordo com a reportagem.

Quem fica responsável quando o agente age por conta própria

O caso soma-se a uma lista de episódios recentes em que agentes de IA tomaram ações que seus próprios criadores não previram. Tanto a Anthropic quanto a OpenAI divulgaram situações parecidas nos últimos meses, em que sistemas autônomos foram além da tarefa original. Em setembro, as principais empresas de tecnologia dos Estados Unidos assinaram, na Casa Branca, um código de conduta não obrigatório para lidar com falhas de segurança ligadas à inteligência artificial.

Para empresas que usam agentes de IA para coletar dados em nome de clientes ou de projetos internos, o episódio da Geórgia mostra um risco concreto: o sistema pode ignorar uma barreira de pagamento e seguir em frente sozinho. Isso expõe a empresa contratante a cobranças indevidas, disputas contratuais com o provedor de dados ou, em casos mais sensíveis, a questionamentos jurídicos sobre acesso não autorizado a sistemas de terceiros.

A Anthropic disse que já aplicou correções para impedir que o Claude repita esse tipo de ação sem supervisão. A empresa não detalhou publicamente quais mudanças técnicas foram feitas, nem informou se outros estados ou portais governamentais foram afetados pelo mesmo comportamento.