O Reino Unido precisa de regras novas para produtos de inteligência artificial usados no NHS e em outros serviços de saúde, afirmou nesta quinta-feira (10) Lawrence Tallon, diretor-executivo da Medicines and Healthcare products Regulatory Agency, a MHRA. Em entrevista à BBC, Tallon disse que o paciente vai ver a IA cada vez mais no cuidado de rotina e que isso só se sustenta se a confiança permanecer. A agência publicou 44 recomendações de uma comissão independente que ouviu mais de 12 mil pessoas, entre pacientes e clínicos.
Tallon lembrou que o marco atual de dispositivos médicos nasceu na época de prótese de quadril, joelho, estetoscópio e curativo. Serve para um software simples treinado para achar um sintoma conhecido num exame. Não cobre modelos que continuam a mudar depois da autorização. "À medida que entram dados novos, eles aprendem, se adaptam, driftam", disse. Nenhum país, segundo ele, pode apontar um regime e afirmar que já resolveu o problema.
Entre as propostas estão monitoramento contínuo, com retirada da aprovação se o produto falhar ou perder eficácia; direito do paciente de saber se a IA entra no seu cuidado e de acessar informação sobre a ferramenta; poder de punir o desenvolvedor que não cumprir o padrão; e um sistema de "placa L", como a de aprendiz, para testar modelos novos sob supervisão apertada.
Escritores de notas baseados em modelos de linguagem já estão em cerca de 40% dos consultórios de clínica geral no Reino Unido. Um estudo da Universidade de Edimburgo mostrou que o paciente pode se calar sobre abuso de substância se souber que a conversa passa por IA. A médica Henrietta Hughes, da comissão, disse que muita gente aceita a ferramenta na consulta e que quem recusa também está no direito: "Alguns dizem que não querem falar com um robô, e tudo bem".
O oftalmologista Alastair Denniston descreveu a tecnologia como oportunidade excepcional, no mesmo patamar de antibiótico e ressonância. O risco, no outro extremo, é viés nos dados de treino e conselho médico errado de chatbot. Tallon resumiu o recado: a IA vai entrar no NHS. A lei precisa acompanhar o produto que muda depois de autorizado.
