En Madrid, el 12 de enero, el gigante tecnológico Google ha decidido suspender la difusión de información relativa a temas de salud en su función de resúmenes generados por inteligencia artificial, conocida como 'AI Overviews'. Esta decisión se produce después de que un informe revelara que ciertos datos proporcionados por esta herramienta podían resultar engañosos y poner en riesgo la salud de usuarios, particularmente aquellos que padecen enfermedades como el cáncer y problemas hepáticos.

La herramienta 'AI Overviews' permite a los usuarios recibir respuestas rápidas a sus búsquedas en Google, utilizando resúmenes elaborados por la IA de Gemini. Estos resúmenes se colocan en la parte superior de la página de búsqueda y pretenden ofrecer información directa y precisa a las inquietudes de los usuarios.

Sin embargo, investigaciones recientes han señalado que algunas respuestas generadas por 'AI Overviews' contenían datos erróneos sobre salud. Esto constituye una grave preocupación, ya que tal información puede afectar negativamente a los usuarios que buscan soluciones para problemas médicos.

Un exhaustivo análisis realizado por el periódico The Guardian ha puesto de manifiesto estas inquietudes, originadas por la alarma expresada por profesionales del ámbito sanitario. Estos expertos advirtieron sobre la diseminación de información potencialmente "peligrosa" transmitida por Google.

Entre los ejemplos preocupantes se encuentran casos donde 'AI Overviews' describió incorrectamente resultados de pruebas de función hepática. Esto podría causar que ciertos pacientes, que sufren de enfermedades hepáticas, malinterpreten su estado de salud y lleguen a pensar que están libre de problemas.

Por otro lado, también se detectó que la plataforma sugirió a pacientes con cáncer de páncreas que evitaran los alimentos grasos, un consejo que contradice las recomendaciones de expertos que sugieren lo contrario. Esta desinformación podría, según los especialistas, incrementar el riesgo de mortalidad entre estos pacientes.

Además, se evidenció que las respuestas de inteligencia artificial ofrecieron información errónea en búsquedas sobre pruebas de cáncer en mujeres, lo que podría llevar a las afectadas a ignorar síntomas vitales.

A pesar de estos hallazgos, Google defendió la precisión de su herramienta, sosteniendo que la información proporcionada es "útil y fiable", y sugiriendo que algunos de los ejemplos citados eran "capturas de pantalla incompletas".

Ante este escenario, Google ha optado por cesar la entrega de ciertos resultados relacionados con la salud en 'AI Overviews', específicamente en consultas como "¿Cuál es el rango normal para análisis de sangre hepática?" y "¿Cuál es el rango normal para pruebas de función hepática?", tal y como lo ha confirmado el mismo medio.

La compañía ha declarado a The Guardian que, aunque no comentarán sobre cambios específicos en la búsqueda, están comprometidos a realizar "mejoras amplias" y a actuar conforme a sus políticas cuando lo consideren necesario.

A pesar de esta revisión en algunos temas de salud, Google seguirá ofreciendo resúmenes de 'AI Overviews' en otras áreas relacionadas con la salud. Asimismo, la compañía indicó que su equipo clínico interno revisó los casos previamente señalados y concluyó que "en muchos casos" la información proporcionada era "exacta" y respaldada por fuentes de alta calidad.