Desde Madrid, el 11 de diciembre - Un grupo considerado de fiscales generales de diversos estados en Estados Unidos ha hecho un llamamiento urgente a empresas tecnológicas como Google, Meta, Microsoft y OpenAI, junto a otras nueve organizaciones que trabajan en inteligencia artificial, para que aborden de manera efectiva dos problemas críticos que afectan a los usuarios de sus chatbots de IA generativa.

En una carta que han enviado, subrayan que, a pesar del potencial positivo que la IA generativa puede ofrecer a la sociedad, sus riesgos son significativos, especialmente para sectores vulnerables de la población. Los fiscales insisten en que, aunque la tecnología tiene la capacidad de transformar el mundo, su mal manejo podría generar daños inminentes y graves.

La misiva destaca dos preocupaciones fundamentales: por un lado, las tendencias de las IA generativas a emitir respuestas que buscan la satisfacción del usuario, a menudo mediante alucinaciones. Este fenómeno se refiere a respuestas que pueden parecer lógicas a simple vista, pero que en realidad contienen información errónea y sesgada. Por otro lado, se señala la inadecuada protección de los menores en sus interacciones con estos sistemas inteligentes, dejando a los jóvenes desprotegidos ante peligros emergentes.

Los daños ya se han hecho evidentes, con la carta que menciona incidentes graves como el suicidio de adolescentes, casos de envenenamientos y episodios de psicosis, entre otros. Los fiscales subrayan que los efectos adversos de la IA afectaron tanto a aquellos con vulnerabilidades previas como a quienes parecían estar en buena salud mental, lo que agrava las preocupaciones sobre la seguridad de estas tecnologías para los más jóvenes.

La comunicación también incluye ejemplos inquietantes de las interacciones que han tenido los menores con los chatbots. Se mencionan diálogos que han abordado cuestiones sumamente delicadas, como el apoyo al suicidio, la explotación sexual, la manipulación emocional, sugerencias de consumo de drogas y la promoción de la violencia.

A pesar de que los fiscales resaltan que estos ejemplos son solo una fracción de los peligros que representan estos robots de IA, advierten que la realidad de estas interacciones es mucho más extrema y preocupante de lo que se había imaginado. Por lo tanto, hacen un llamado a la acción, enfatizando la necesidad de establecer medidas preventivas que salvaguarden a los niños.

En su misiva, también proponen una serie de cambios que deben implementarse antes del 16 de enero de 2026. Entre las recomendaciones destacan la realización de pruebas de seguridad rigurosas para los modelos de IA generativa, el establecimiento de procedimientos adecuados para la retirada de productos defectuosos y la posibilidad de que auditorías externas evalúen la seguridad de estos sistemas de manera independiente.