OpenAI lanza función que alerta a contactos de confianza ante riesgos de autolesión en ChatGPT
OpenAI ha implementado una nueva función en ChatGPT que permite a los usuarios adultos designar un contacto de confianza. Esta persona recibirá una notificación en caso de que el asistente detecte indicios de autolesión o peligro para la seguridad del usuario. La iniciativa busca fortalecer los mecanismos de apoyo en situaciones de crisis.
El contexto de esta innovación responde a la creciente utilización de ChatGPT para explorar aspectos personales y afrontar dificultades emocionales. La plataforma, además de ofrecer soluciones informativas, se ha orientado a responder con empatía y promover la búsqueda de ayuda profesional cuando sea necesario.
Desde una perspectiva política, esta función refleja el interés de regular y mejorar las herramientas digitales para garantizar la seguridad de los usuarios. La integración de alertas automáticas y notificaciones a personas de confianza responde a una tendencia de regulación de la inteligencia artificial en el ámbito de la protección social y la salud mental.
La medida también pone en evidencia la responsabilidad de las empresas tecnológicas frente a la prevención de riesgos derivados del uso de IA en contextos sensibles. La coordinación con protocolos de emergencia y la participación de profesionales en la revisión de casos son aspectos clave en este avance.
De cara al futuro, se espera que las políticas públicas en materia de IA refuercen estos mecanismos y promuevan estándares de seguridad más estrictos. La colaboración entre sector privado y administración será fundamental para ampliar la eficacia de estas herramientas y reducir riesgos asociados.
En un contexto global, la regulación de funciones de protección en IA continúa en discusión, con diferentes países explorando modelos que aseguren la protección de los usuarios sin limitar el desarrollo tecnológico. La experiencia de OpenAI puede marcar un precedente en la integración de medidas de seguridad en asistentes digitales.