Anthropic analiza el ritmo de desarrollo de la IA con nuevas métricas y control de recursos

Anthropic ha presentado tres métricas para evaluar la velocidad y control en el avance de la inteligencia artificial de frontera. Desde agosto, su sistema Claude lidera el 26% del trabajo en I+D y colabora en más del 90% de los proyectos.

Estas mediciones buscan comprender mejor el proceso de autoconstrucción de modelos y la capacidad de supervisión, ante la creciente automatización del desarrollo de IA. La compañía advierte que el avance acelerado puede dificultar la comprensión y regulación por parte de los humanos.

El contexto político actual en España y Europa está marcado por una mayor atención a la regulación de la IA. La Comisión Europea trabaja en directrices para garantizar la seguridad y el control de estos sistemas, ante los riesgos asociados a su automejora.

El análisis de recursos y decisiones en la investigación revela una baja tasa de decisiones bloqueadas por monitores, pero alerta sobre posibles decisiones de mayor impacto a medida que la automatización crece. La prioridad en seguridad recibe un 6% del cómputo en investigación, mientras que el 12% se destina a tareas específicas de seguridad en IA.

Estos avances muestran una tendencia hacia una mayor automatización en el desarrollo de IA, con implicaciones para la regulación y la seguridad. La vigilancia y control de estos sistemas será clave en los próximos años, en un contexto global de regulación emergente.

El futuro de la IA en Europa dependerá en gran medida de cómo se regulen estos procesos y de la capacidad de los organismos regulatorios para mantenerse al día con la velocidad de avance tecnológico. La coordinación internacional será esencial para gestionar estos riesgos.