A China aplica desde 15 de julho o que a imprensa internacional chama de regulamentação mais ampla do mundo sobre chatbots de inteligência artificial que imitam comportamento humano, segundo reportagem da BBC Mundo reproduzida pela Folha de S.Paulo. A norma chegou depois de relatos de dependência emocional entre usuários e seus companheiros virtuais, incluindo um caso de tentativa de suicídio monitorado pela plataforma chinesa Douyin.
Nos dias anteriores à entrada em vigor da regra, Alibaba e ByteDance, dona do Douyin, encerraram funções de companhia virtual em seus aplicativos. Hoje, chatbots desse tipo somam entre 29 milhões e 70 milhões de usuários dentro da China e 128 milhões fora do país, segundo os números citados na reportagem.
As regras para quem tem menos de 18 anos
A legislação chinesa proíbe qualquer pessoa com menos de 18 anos de manter parceiros, cônjuges ou parentes virtuais criados por IA, categoria que inclui relacionamentos íntimos simulados. Para crianças com menos de 14 anos, qualquer interação com IA que simule traços humanos passa a exigir consentimento dos pais.
As plataformas também são obrigadas a enviar um aviso ao usuário a cada duas horas de uso contínuo, informando o tempo gasto na conversa. A regra proíbe ainda que os chatbots incentivem automutilação, suicídio ou o uso de violência verbal contra o usuário, segundo a reportagem.
O caso que acelerou a norma
A pressão sobre o governo chinês cresceu depois que, em 2024, um jovem da cidade de Huangshi publicou uma mensagem de despedida no Douyin antes de uma tentativa de suicídio. A equipe de prevenção da plataforma localizou o usuário em um parque e acionou a polícia a tempo. Segundo a reportagem, o mesmo time do Douyin interveio com sucesso em 400 casos de tentativa de suicídio apenas no primeiro semestre de 2025.
O episódio chinês tem um paralelo nos Estados Unidos, onde os pais de Adam Raine, que morreu aos 16 anos, processam a OpenAI por acusar o ChatGPT de validar pensamentos suicidas do adolescente antes da morte. A diferença, segundo especialistas citados pela reportagem, está na resposta regulatória: enquanto o caso americano corre nos tribunais, Pequim optou por uma norma nacional preventiva.
Quem paga a multa
Empresas que descumprirem as novas regras chinesas podem ser multadas em até 200 mil yuans, hoje perto de US$ 30 mil, além de ficarem sujeitas à divulgação pública de críticas por parte do governo, prática usada como forma de constrangimento institucional no país. O valor é baixo para companhias globais de tecnologia, mas a exposição pública pesa no mercado chinês, onde a aprovação do Partido Comunista influencia a permanência de um aplicativo nas lojas.
O impacto recai sobre um modelo de negócio construído em torno da retenção emocional do usuário. Um estudo da Universidade Harvard citado na reportagem identificou que entre 37% e 43% dos aplicativos de companhia usam alguma forma de manipulação emocional no momento em que o usuário tenta encerrar a conversa ou cancelar a assinatura. No Reino Unido, uma pesquisa apontou que 79% dos jovens de 18 a 24 anos já usaram algum companheiro de IA, e mulheres representam até 75% da base de usuários desses aplicativos, segundo a mesma reportagem.
