Representantes da OpenAI e da Meta afirmaram na quinta-feira (15) a um comitê da Justiça federal dos Estados Unidos que ficará mais difícil confirmar a autenticidade de vídeos, áudios e imagens apresentados como prova em processos, segundo o Olhar Digital. A reunião, em Boston, foi do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA.
O comitê discute desde 2023 como tratar o risco de conteúdo fabricado por inteligência artificial nos tribunais. Os trabalhos são presididos pelo juiz federal de Manhattan Jesse Furman. A juíza federal de Manhattan Valerie Caproni também integra o grupo.
O que as duas empresas disseram aos juízes
Shira Anderson, advogada de políticas públicas da OpenAI, afirmou que os avanços na geração de imagens dificultam a criação de métodos científicos de detecção. Segundo ela, os sistemas que checam autenticidade devem evoluir, mas não serão totalmente infalíveis. Anderson disse não acreditar que exista, no futuro, uma maneira científica de identificar imagens de IA.
Devin Norder, diretor de gerenciamento de produtos da Meta, afirmou que o material produzido pelos modelos mais avançados já pode ser indistinguível, para as pessoas, de uma mídia autêntica. De acordo com ele, produzir esse conteúdo custa pouco e leva pouco tempo.
As duas empresas desenvolvem ferramentas para verificar a origem de conteúdos visuais. Anderson apontou um problema prático: não há padrão universal para ler marcas d'água digitais, porque cada empresa usa o próprio sistema. Leis recentes da Califórnia e da União Europeia exigem esse tipo de marcação.
Só 15 casos entre 931 juízes
O dado mais concreto da reunião veio de uma pesquisa do Centro Judicial Federal, divulgada em março. Dos 931 juízes que responderam, 15 tiveram casos em que uma das partes contestou uma prova por suspeitar de deepfake. São pouco mais de 1,6% do total.
Furman reconheceu a distância entre o debate e a prática. De acordo com o Olhar Digital, o juiz afirmou que há muita análise acadêmica e muita previsão sobre o impacto da tecnologia, mas poucos casos concretos. Ele nomeou um subcomitê para aprofundar o tema.
Caproni mostrou cautela quanto a criar regras específicas agora. Ela disse que ainda faltam dados que mostrem deepfakes como problema disseminado nos tribunais e lembrou que as normas atuais já proíbem prova fraudulenta e permitem que juízes avaliem falsificações.
Como fica a prova em vídeo para advogados e para o Brasil
Se a detecção técnica não acompanhar a qualidade dos vídeos falsos, a autenticação tende a depender de outros elementos: origem do arquivo, cadeia de custódia e testemunhas. Para os advogados, uma gravação deixa de valer por si só e passa a exigir comprovação de como foi obtida. Qualquer parte pode, ao mesmo tempo, alegar que uma prova verdadeira é falsa.
A discussão americana não altera regras brasileiras, mas indica a mesma pressão sobre o Judiciário daqui, que já lida com conteúdo de IA em processos eleitorais. Por ora, o comitê dos EUA não decidiu criar uma regra nova. O próximo passo é o trabalho do subcomitê indicado por Furman, que vai levantar casos reais antes de qualquer proposta.
