A Meta, de Mark Zuckerberg, afirmou nesta sexta-feira (11) que vai mudar as sugestões do chatbot de inteligência artificial depois que um vídeo viral mostrou o sistema pedindo dados pessoais das filhas de uma usuária. A porta-voz Dina El-Kassaby disse ao The Verge, às 14h25 UTC, que a empresa "errou o alvo" e que "o recurso nunca deveria ter sugerido à pessoa perguntas daquele tipo".
Na semana passada, Kalie Robins postou no Instagram o recorte. Depois de republicar um clipe no Facebook, a Meta AI colocou o prompt "Who is the child passenger?" sob um vídeo dela cantando no carro com a filha. Ao tocar a sugestão, o chatbot juntou informação das meninas a partir de posts antigos dela e de parentes. Sugeriu ainda idade das crianças e onde a família mora. Robins disse que a IA mostrou fotos das filhas, inclusive uma que ela afirma ter apagado anos atrás.
O assistente da Meta está embutido no Facebook, Instagram, WhatsApp e Messenger. Em julho, a casa tirou um recurso que deixava gerar deepfake de outros usuários do Instagram, depois da reação. El-Kassaby disse agora que o defeito que fazia a IA sugerir prompt de tema pessoal foi corrigido.
"Criamos esse recurso para ajudar as pessoas a obter mais informação sobre temas ou posts que lhes interessam", afirmou a porta-voz. "Quando alguém clica num prompt e usa o recurso, a resposta se baseia em informação a que o usuário já tem acesso." Neste caso, segundo ela, a IA pode ter puxado vídeos em que Robins nomeava as filhas.
O recado cai no mesmo ciclo em que o agente Muse, também da Meta, virou o segundo app mais baixado nos Estados Unidos e em que a Verge descreveu o assistente como capaz e inquietante: lê dado do Instagram que a própria usuária não vê na tela. Zuckerberg pediu confiança. O prompt sobre a criança no banco do carona é o tipo de detalhe que quebra isso.
