Crónica España.

Crónica España.

Anthropic contrata a Jan Leike, exinvestigador de OpenAI, para liderar equipo de seguridad en IA.

Anthropic contrata a Jan Leike, exinvestigador de OpenAI, para liderar equipo de seguridad en IA.

Anthropic está liderando un equipo especializado en seguridad de la Inteligencia Artificial (IA) bajo la dirección de Jan Leike, quien recientemente dejó la firma OpenAI. Este equipo centrado en la misión de superalineación se enfocará en modelos avanzados como Claude, supervisión escalable, generalización de débil a fuerte, y la investigación de alineación automatizada, según ha compartido Leike en su perfil en X (anteriormente Twitter).

Leike estará a cargo de este nuevo equipo en Anthropic, trabajando directamente con Jared Kaplan, responsable de Ciencia de la compañía. Se encargará de supervisar a los investigadores que actualmente se enfocan en supervisión escalable, según informa TechCrunch citando fuentes cercanas al asunto.

En el último año, Leike ha liderado un equipo en OpenAI dedicado exclusivamente a la investigación y control de la futura tecnología de superinteligencia. Sin embargo, recientemente renunció, alegando que la compañía no está invirtiendo lo suficiente en este campo.

El nuevo equipo de Leike en Anthropic tiene como objetivo avanzar en la "superalineación", desarrollando nuevas técnicas para supervisar la superinteligencia, ya que se considera que los esfuerzos humanos actuales no serán suficientes, según lo expuesto por OpenAI el año pasado.