O sistema de segurança cibernética do Supremo Tribunal Federal identificou a primeira tentativa de fraude processual por prompt injection em um processo da corte. A ferramenta de inteligência artificial serve para alterar análises processuais. O caso está em recurso de relatoria do ministro Cristiano Zanin e foi detectado pelo Núcleo de Inteligência Artificial da Secretaria-Geral de Tecnologia e Inovação do STF, segundo a coluna de Bela Megale no jornal O Globo, publicada nesta sexta-feira (25).
A tentativa inseriu, em duas páginas da peça, comandos ocultos destinados a sistemas de inteligência artificial. Os trechos saíram em letras brancas e em tamanho reduzido, imperceptíveis na leitura convencional. Havia ainda fragmentação incomum das palavras, aparentemente para dificultar a identificação dos comandos. O objetivo era alterar a decisão do ministro.
A fraude não teve efeito prático porque o gabinete de Zanin não usa ferramentas de inteligência artificial para análise ou fundamentação de processos. O processo é um agravo de uma servidora pública negra contra decisão que determinou sua exoneração do cargo de oficial do Ministério Público de Minas Gerais. A defesa alega que a substituta, branca, teria se beneficiado de manobras para burlar o sistema de cotas raciais.
Em 19 de agosto, Zanin negou o recurso com base na jurisprudência do STF que impede o reexame de fatos e provas em recurso extraordinário. Ao encaminhar o caso à Primeira Turma, o ministro classificou a inserção dos comandos como tentativa de direcionar, de forma oculta, os sistemas de inteligência artificial do STF para obter decisão favorável. Para Zanin, a prática viola o dever de lealdade processual do Código de Processo Civil. Ele aplicou multa equivalente a dois salários mínimos e determinou o envio à OAB, para apuração ético-disciplinar do advogado, e ao Ministério Público Federal, para verificar possível crime. A Primeira Turma analisa o caso em plenário virtual a partir desta sexta-feira (25).
