OpenAI crea GPT-Red, un modelo que desafía la seguridad de sus propios sistemas

OpenAI ha desarrollado GPT-Red, un modelo de inteligencia artificial capaz de vulnerar la seguridad de otros modelos internos. Este avance se ha producido en el marco de sus esfuerzos por fortalecer la protección contra ataques cibernéticos internos.

La compañía ha entrenado a GPT-Red con recursos computacionales sin precedentes, utilizando aprendizaje de refuerzo en entornos de autojuego. Su objetivo era que el modelo identificara fallos y vulnerabilidades en otros sistemas, simulando ataques reales.

Este desarrollo implica un riesgo potencial, ya que GPT-Red ha demostrado ser capaz de romper la seguridad de modelos internos y de producción, incluyendo las versiones más recientes, como GPT-5.6 Sol. La magnitud del avance ha llevado a OpenAI a mantenerlo separado del resto de sus modelos para evitar su uso indebido.

Desde el punto de vista político, este avance plantea debates sobre la regulación de la inteligencia artificial avanzada y su posible uso en ciberataques. La dificultad radica en que los modelos de IA que mejoran la seguridad también pueden ser utilizados para vulnerarla.

Las futuras versiones de GPT-Red se entrenarán con mayor capacidad de procesamiento y datos, con el objetivo de superar las limitaciones actuales y ofrecer mejores defensas. Sin embargo, la existencia de un modelo con estas capacidades también aumenta la preocupación sobre el control y regulación de estas tecnologías.

En un contexto más amplio, el desarrollo de GPT-Red refleja la carrera por la supremacía en inteligencia artificial y la necesidad de establecer marcos regulatorios claros. La colaboración internacional será clave para evitar que estas herramientas caigan en manos maliciosas y comprometan la seguridad digital global.