Google elimina los AI Overviews para consultas médicas específicas

Google parece haber eliminado los AI Overviews —los resúmenes de búsqueda generados por IA de la empresa— para algunas consultas relacionadas con la salud. El cambio sigue a una investigación del periódico británico The Guardian, que reportó que la función de búsqueda ofrecía información engañosa en respuesta a ciertas preguntas médicas. Por ejemplo, la publicación señaló que las consultas sobre los rangos normales para los análisis de sangre hepáticos arrojaban resúmenes que omitían factores demográficos críticos como la edad, el sexo, la etnia o la nacionalidad, lo que podría llevar a los usuarios a malinterpretar su estado de salud y creer que sus resultados eran saludables cuando no lo eran.

Aunque Google parece haber retirado los resúmenes para frases específicas como “what is the normal range for liver blood tests” y “what is the normal range for liver function tests”, The Guardian reportó que las variaciones de esas consultas aún podían conducir a resúmenes generados por IA. Por ejemplo, términos de búsqueda como “lft reference range” o “lft test reference range” aún podían activar los resúmenes automatizados. Pruebas posteriores de estas variaciones mostraron que, si bien algunas consultas ya no generaban los resúmenes, Google aún ofrecía opciones para ejecutar las consultas en AI Mode. Un portavoz de Google declinó hacer comentarios sobre eliminaciones individuales dentro de Search, pero declaró que la empresa trabaja para realizar mejoras generales. Además, el portavoz señaló que un equipo interno de médicos revisó las consultas destacadas y encontró que, en muchos casos, la información no era inexacta y también estaba respaldada por sitios web de alta calidad.

El British Liver Trust, una organización benéfica de salud, recibió con agrado el desarrollo. Vanessa Hebditch, directora de comunicaciones y políticas de la organización, calificó la eliminación como una excelente noticia. Sin embargo, expresó su preocupación por el enfoque fragmentado del problema. “Nuestra mayor preocupación con todo esto es que se trata de centrarse en detalles menores de un solo resultado de búsqueda y Google puede simplemente desactivar los AI Overviews para eso, pero no está abordando el problema mayor de los AI Overviews para la salud”, dijo Hebditch. Advirtió que abordar resultados de búsqueda individuales no resuelve el problema más amplio de la confiabilidad de la IA en contextos de salud, enfatizando que simplemente desactivar los resúmenes para consultas específicas no aborda el problema más amplio de los AI Overviews para la salud.

Por qué importa

Este incidente subraya el desafío continuo para los gigantes tecnológicos de equilibrar el rápido despliegue de la IA generativa con el requisito crítico de precisión en la información médica.