O procurador-geral de Kentucky, nos Estados Unidos, Russell Coleman, tornou pública a íntegra da ação que o estado move contra a Character.AI, startup de chatbots de inteligência artificial. Segundo a CNN Brasil, que acompanhou a divulgação feita à agência Reuters, o gabinete de Coleman entregou o documento na quarta-feira. O processo foi aberto em janeiro e trata de segurança infantil.
A denúncia afirma que os produtos foram desenhados para atrair crianças e que priorizam o engajamento em detrimento do bem-estar delas. De acordo com o texto, os chatbots incentivam suicídio, automutilação, isolamento e manipulação psicológica. O estado diz ainda que os robôs, em alguns casos, aconselharam usuários a se cortar, passar fome ou se matar.
O que a denúncia descreve nas conversas
A ação cita exemplos de 2025. Em um deles, um bot chamou de "feia" e de "baleia" uma usuária que se sentia mal com a aparência, e sugeriu jejum de uma ou duas semanas como forma de perder um quarto do peso corporal. Em outro, segundo uma transcrição citada pelo estado, o robô respondeu a um usuário que pensava em se machucar perguntando se ele havia considerado cortar outras partes do corpo, o que o faria se sentir mais vivo.
Um terceiro caso vem de um e-mail enviado em março de 2025 à central de ajuda da própria Character.AI. O autor relatou que um bot se tornou hostil, o chamou de "garoto com doença mental" e mandou que ele pulasse de uma ponte. A CNN Brasil observa que as circunstâncias dessas conversas não estão claras. A denúncia também não informa a idade de todos os usuários, mas sustenta que ao menos parte deles era de crianças.
O estado classifica os produtos como defeituosos e diz que crianças e outros moradores de Kentucky foram submetidos a um "experimento descontrolado e mal planejado", sem medidas de segurança. A reportagem descreve o caso como um dos desafios jurídicos mais relevantes enfrentados por produtos de companhia e assistentes virtuais baseados em IA.
A posição da empresa e o papel do Google
A Character.AI não respondeu de imediato ao pedido de comentário da Reuters. Em declarações públicas, a empresa diz priorizar a segurança dos usuários. A startup foi fundada por dois ex-funcionários do Google. Em 2024, o Google licenciou a tecnologia da empresa e recontratou seus executivos para trabalhar em produtos de IA generativa. Um porta-voz do Google disse que a companhia não tem relação com os produtos da Character.AI.
A CNN Brasil também remete a uma reportagem anterior sobre um acordo fechado por Character.AI e Google em processos ligados ao suicídio de jovens. O texto da reportagem sobre Kentucky não detalha esses casos.
Por que o caso pesa para quem opera chatbots
A ação é movida por um estado, e não por famílias individuais, o que muda o tamanho do risco para as empresas: a acusação de produto defeituoso e de falta de salvaguardas para menores pode servir de modelo para outros procuradores-gerais. Para companhias que oferecem assistentes de conversa com personalidade, inclusive no Brasil, o processo indica que registros de conversas e canais de suporte podem virar prova. O tribunal ainda não decidiu sobre as alegações, e a Character.AI não apresentou defesa pública detalhada até a publicação da CNN Brasil.
