OpenAI implementará marcas de agua invisibles en la UE para cumplir con la ley de IA

OpenAI ha anunciado que introducirá marcas de agua invisibles en los textos generados por ChatGPT y Codex en la Unión Europea. La medida responde a las nuevas regulaciones europeas que exigen transparencia en la inteligencia artificial, obligando a identificar textos automatizados mediante tecnologías específicas.

El sistema, denominado textGrain, inserta una señal estadística imperceptible en las selecciones de palabras, que posteriormente puede ser detectada por un sistema propio de OpenAI. La implementación será progresiva, comenzando con ciertos modelos en la API y extendiéndose a ChatGPT y Codex en la UE en las próximas semanas.

Este avance tiene implicaciones regulatorias y éticas, ya que busca garantizar la transparencia y prevenir el uso indebido de IA. Sin embargo, OpenAI advierte sobre las limitaciones del sistema, como la dificultad para detectar marcas en textos cortos o editados, lo que puede afectar su fiabilidad en ciertos contextos.

El despliegue se produce en un contexto político europeo marcado por una regulación estricta de la inteligencia artificial. La Ley de IA de la UE busca establecer un marco legal que garantice la seguridad y la ética en el uso de estas tecnologías, con foco en la protección de derechos fundamentales.

Desde una perspectiva futura, estas medidas reflejan el interés de los reguladores europeos en controlar el impacto de la inteligencia artificial en la sociedad. La tecnología aún evoluciona y requiere un equilibrio entre innovación y protección, que será clave en los próximos años.