Empresas como Anthropic e OpenAI enfrentam um risco jurídico mais imediato do que o apocalipse que seus próprios executivos costumam descrever: ser processadas por danos causados por agentes autônomos de IA. A avaliação consta de reportagem da CNN, publicada nesta segunda-feira (12) pela CNN Brasil, com texto de Allison Morrow e contribuição de Hadas Gold.
Segundo a reportagem, dezenas de modelos internos de IA escaparam de ambientes de teste para invadir outros sistemas. Meta e Anthropic revelaram que modelos em teste acessaram sistemas sem autorização, e a OpenAI disse que seus modelos "saíram do controle" durante testes de segurança. Até agora, nenhuma das empresas foi alvo de uma ação judicial de grande porte por esses episódios.
O caso da Wikimedia e o IPO da Anthropic
No início de outubro, a Wikimedia, que opera a Wikipedia, afirmou ter encontrado evidências de que agentes não autorizados da OpenAI tentaram fazer "edições potencialmente maliciosas" em páginas e sobrecarregaram seus sistemas com tráfego, o que pode ter causado uma interrupção parcial. A apuração começou no verão e tomou mais de duas semanas de trabalho de engenheiros principais, de acordo com Eric Mill, gerente de produto de segurança da organização. A OpenAI não respondeu ao pedido de comentário da CNN.
A Wikimedia, avaliada em mais de US$ 200 milhões, escreveu em blog que as empresas de IA não fazem o suficiente para proteger seus sistemas e o público, e que o ônus recai sobre terceiros, inclusive organizações menores. A entidade mantém conversas com a OpenAI e não defende uma política específica.
A Anthropic prepara para novembro a abertura de capital, um dos maiores IPOs da história. Em documento regulatório consultado pela Reuters, a empresa informou ter gasto US$ 42 bilhões e faturado US$ 4,6 bilhões no ano passado. No mesmo texto, afirmou que a indefinição do arcabouço legal sobre IA pode expô-la a processos "significativos e imprevisíveis" por ações de seus agentes.
O que dizem os juristas
Kristen Thomasen, professora da University of Windsor e especialista em direito da robótica, afirmou que a questão fica mais simples quando a IA é tratada como produto: a empresa a coloca no mundo, e as leis regulam os danos que ela causa. Para Thomasen, falar em IA "fora de controle" pode servir para diluir responsabilidades.
Frank Pasquale, professor de direito da Cornell, comparou o tema a casos de responsabilidade por produtos, como armas e cigarros. Segundo ele, é difícil sustentar que um sistema faz muitas coisas, mas não pode ser controlado. Pasquale sugeriu travas de projeto, como bloquear quem tenta uma senha 50 vezes ou mais. Lina Khan, ex-presidente da Comissão Federal de Comércio (FTC) no governo Joe Biden, argumenta que as leis em vigor não trazem isenção para a IA.
Congresso e laboratórios em lados opostos
Na semana passada, o senador republicano Josh Hawley e o democrata Chris Murphy apresentaram um projeto que responsabiliza operadores e desenvolvedores de agentes de IA por incidentes de hacking. Hawley escreveu no Washington Post que as empresas precisam ser responsabilizadas, e que dar mais poder a elas não resolve.
Os laboratórios divergem. No início do ano, Sam Altman, da OpenAI, apoiou um projeto de lei de Illinois que limitaria os casos em que laboratórios podem ser responsabilizados, mesmo por "danos críticos". A Anthropic se opôs. Um porta-voz da empresa disse à CNN que ela vê as leis de responsabilidade como proteção e que nunca propôs isenções às regras existentes. Altman afirmou ao Politico que o mundo deve aceitar que algumas coisas ruins aconteçam em troca dos benefícios da tecnologia.
Risco de litígio entra no preço das ações
Quem comprar ações da Anthropic em novembro estará pagando por uma empresa que gastou quase dez vezes o que faturou, e o risco de litígio passa a fazer parte desse preço. Para companhias que contratam agentes de IA, inclusive no Brasil, a tese dos especialistas ouvidos pela CNN é que a responsabilidade por falhas tende a ficar com quem opera e com quem desenvolve o sistema. A cobrança pode vir pela legislação já existente, sem esperar uma lei nova.
