Google actualiza Gemini para mejorar la detección y apoyo en crisis de salud mental

La compañía tecnológica Google ha implementado una actualización significativa en su inteligencia artificial Gemini, diseñada para facilitar la detección de crisis de salud mental y ofrecer recursos de ayuda más accesibles. La actualización incluye un nuevo módulo que, en colaboración con expertos clínicos, conecta a los usuarios con servicios de atención en situaciones de emergencia, especialmente en casos relacionados con ideación suicida o autolesiones. Google afirma que estas mejoras buscan promover un uso responsable de la IA y proteger a los usuarios vulnerables.

Este avance se produce en un contexto político donde la regulación de la inteligencia artificial en Europa, particularmente en España, avanza con nuevas directrices que buscan garantizar la protección de los derechos de los usuarios y prevenir posibles riesgos asociados a estas tecnologías. La Comisión Europea ha presentado propuestas para establecer marcos regulatorios que aseguren la transparencia y la responsabilidad de los sistemas de IA en ámbitos sensibles, como la salud mental.

En el escenario nacional, el debate político se centra en equilibrar la innovación tecnológica con la protección social y los derechos fundamentales. Los representantes políticos han puesto sobre la mesa la necesidad de establecer controles claros para el uso de IA, especialmente en ámbitos que afectan la salud y el bienestar de las personas, sin frenar el desarrollo tecnológico.

Google ha destacado que, pese a los avances, Gemini no sustituye la atención clínica profesional, sino que actúa como una herramienta complementaria que puede facilitar el acceso a recursos en momentos de crisis. La compañía también ha implementado medidas para proteger a los menores y evitar dependencias emocionales, en línea con las regulaciones emergentes en Europa.

Este tipo de iniciativas refleja una tendencia global hacia una inteligencia artificial más responsable y orientada a la protección social, en contraposición con enfoques más permisivos que puedan poner en riesgo la integridad de los usuarios. La regulación en Europa busca precisamente establecer un marco que garantice estos principios en la innovación tecnológica.

En un contexto donde la tecnología y la política se cruzan cada vez más en la regulación de la inteligencia artificial, las acciones de Google representan un paso hacia un uso más consciente y ético de estas herramientas, en línea con los esfuerzos regulatorios que se están llevando a cabo en la Unión Europea y en España específicamente.