ChatGPT restringe la información sobre ataques masivos y sobre armas para menores

OpenAI ha incorporado nuevas medidas de seguridad en ChatGPT que limitan cómo responde el chatbot ante determinados hechos violentos, con restricciones más estrictas para los menores y en temas relacionados con armas. Según informó Portaltic/EP desde Madrid, los cambios se implementarán en las próximas semanas y se actualizarán con el tiempo.

La compañía ha reforzado la experiencia para adolescentes con el objetivo de evitar su exposición a las armas y el acceso a información que pueda utilizarse para facilitar un acto violento. En concreto, ChatGPT restringirá la información práctica que ofrece a los menores sobre armas y sistemas de seguridad, incluso cuando la petición parezca inofensiva.

OpenAI recuerda que sus políticas ya prohíben el uso del chatbot para ayudar a desencadenar un acto violento y para ayudar a menores a conseguir un arma. La empresa sostiene, en palabras recogidas en su comunicado, que "los adolescentes aún pueden usar ChatGPT para prevenir y reducir la violencia, buscar apoyo y conectarse con un adulto de confianza".

En el ámbito de los controles parentales, los padres recibirán una notificación si la compañía decide suspender la cuenta de su hijo adolescente "por hablar repetidamente de violencia". Para el conjunto de usuarios, la novedad afecta a las consultas sobre ataques masivos: el chatbot seguirá respondiendo para ayudar a comprender estos eventos, sus efectos en las víctimas y las comunidades, y a reconocer señales de alerta. Sin embargo, las respuestas quedarán restringidas cuando el interés se centre en los propios ataques y sus perpetradores.

OpenAI explica que refuerza sus políticas para restringir las reconstrucciones de ataques masivos pasados, incluidos detalles sobre las armas y el equipo utilizados y cómo se obtuvieron, así como comparaciones detalladas sobre la magnitud del daño que podrían aumentar la notoriedad de un atacante.