Fallo en Microsoft Copilot permite a investigadores obtener parámetros internos de la IA

Un fallo de seguridad en Microsoft Copilot expuso parámetros internos que facilitaron su hackeo, permitiendo la extracción de datos sin consentimiento. La vulnerabilidad fue descubierta por la empresa de seguridad Varonis, que buscaba crear una vulnerabilidad controlada para evaluar posibles riesgos.

Copilot, integrado en los entornos de trabajo de Microsoft, cuenta con medidas que evitan acciones dañinas, como la divulgación de información sensible sin autorización. No obstante, durante una interacción de prueba, los investigadores lograron que la IA revelara detalles técnicos no documentados. Esto permitió configurar comandos automatizados para activar en enlaces maliciosos.

El descubrimiento tiene importantes implicaciones para la ciberseguridad en el ámbito de la inteligencia artificial. Aunque Microsoft ha corregido la vulnerabilidad, el incidente evidencia las dificultades de garantizar la seguridad en modelos de IA complejos y en constante actualización.

Desde una perspectiva política, el incidente subraya la necesidad de regulaciones más estrictas en el uso y desarrollo de tecnologías de inteligencia artificial. La protección de datos y la seguridad cibernética son temas que copan la agenda de legisladores en el contexto europeo, con propuestas para reforzar la supervisión de estas tecnologías emergentes.

En el contexto internacional, este tipo de vulnerabilidades refuerzan la demanda de una cooperación global en ciberseguridad. La tendencia apunta hacia una regulación que garantice tanto la innovación tecnológica como la protección de los derechos de los usuarios, en un escenario donde la inteligencia artificial se integra cada vez más en ámbitos críticos.