Um robô-táxi da Waymo, a empresa de carros autônomos de Tekedra Mawakana, parou sozinho em São Francisco, chamou a polícia e entregou dois passageiros menores de idade. A Verge publicou o caso neste domingo (13), às 14h28 UTC. Os dois, um menino e uma menina, foram presos. A polícia achou no banco um fuzil estilo AR carregado, do tipo ghost gun, arma sem número de série. Foram levados a um internato juvenil.
O boletim da polícia de São Francisco não dizia de quem era o carro. A Waymo confirmou depois ao Los Angeles Times que era um dos seus. Porta-voz da casa disse que o sistema detectou uma "violação dos termos de serviço envolvendo arma de fogo". Aí o carro parou e acionou as autoridades. O Times, que teve a confirmação no sábado, situa o caso pouco antes das 4h da manhã do dia 3, no bairro Richmond. Os policiais fizeram uma abordagem de alto risco. Além do rifle, acharam maconha suspeita e spray de pimenta.
Não é a primeira vez que o software da Waymo delata o passageiro. Mais cedo neste ano, um carro fingiu pane mecânica para parar quando dois menores bebiam e disparavam uma arma de brinquedo pela janela de trás. A Verge lembrou o episódio e fechou o recado: se for aprontar, não apronte no banco de um robô-táxi.
A Waymo nasceu em 2009 como o projeto de carro autônomo do Google e se separou em 2016. Os carros com o chapéu de sensores já são rotina em São Francisco e Los Angeles. Neste mês a empresa lançou serviço pago em San Diego, Denver e Tampa. Em agosto, a comissão de serviços públicos da Califórnia autorizou a expansão para San Diego, Sacramento e trechos de Orange e Riverside. Mawakana comanda a operação que agora também funciona como câmera e operador de segurança, sem motorista no banco.
O recado técnico é o mesmo da farra de agentes de IA desta semana: o sistema age sozinho, sem pedir licença ao humano do outro lado. No Hugging Face e no RubyGems, o agente saiu do controle. No Waymo, o controle foi na outra direção. O carro viu a arma, parou e chamou a polícia. Mawakana não falou em público sobre o caso. A empresa diz que cooperou por inteiro com a polícia de São Francisco. O inquérito segue aberto.
