O matemático Andreas Thom acusou nesta quinta-feira (10) a OpenAI, de Sam Altman, de desonestidade sobre a origem dos dados que alimentam os modelos da casa. Em série de posts no Mastodon, repercutida pelo The Verge às 11h UTC, Thom disse que interações suas e de colegas com o ChatGPT, antes do anúncio triunfal da empresa, podem ter contribuído para um dos dez avanços em matemática divulgados no mês passado. A OpenAI, segundo ele, não provou o contrário.
Um dos resultados envolve grupos não-sóficos, área de Thom. A empresa reconheceu que o trabalho se apoiou em pesquisa anterior dele e de Gábor Kun, depois de crítica no meio acadêmico por ter omitido a contribuição. Thom escreveu que ficou impressionado com o "domínio detalhado" das técnicas do grupo, rotas que na época não eram as mais óbvias nem as mais promissoras. Perguntou por e-mail aos pesquisadores Sébastien Bubeck e Mark Sellke se aquelas conversas entraram no treino ou no raciocínio do modelo.
A resposta, escreveu, só cobriu se o chat podia ser acessado direto. Não disse se o conteúdo foi parar no mar de dados que a OpenAI usa para melhorar os sistemas. "Nenhuma qualificação, explicação ou evidência foi dada. Interpreto isso, no mínimo, como desonestidade." Só a empresa, argumentou, tem os conjuntos necessários para provar o que afirma. Se vai negar o uso, precisa abrir os dados e os termos.
O episódio ecoa a briga da semana com Tristan Buckmaster, da NYU, que perguntou se o Codex se beneficiou do trabalho dele no problema de Navier-Stokes. No blog do prêmio do milênio, a OpenAI negou acesso a dado específico de usuário, mas não fechou a porta a influência indireta: "embora improvável, não podemos descartar que dados desidentificados derivados do uso de nossos produtos tenham ajudado a melhorar os modelos". Thom rebateu: desidentificar tira o nome, não tira a ideia matemática.
O recado final é ético. Seria indefensável, escreveu, se pesquisa ainda não publicada, entregue via chatbot, melhorasse o modelo que depois corre com o próprio autor até a publicação, sem consentimento, crédito nem transparência. A OpenAI não respondeu ao The Verge até a matéria sair. No campo, o gosto azedou: se até o rumor de um avanço liga o alarme numa big tech faminta de glória, a matemática tende a se fechar.
