Ilya Sutskever, cofundador y científico jefe de OpenAI, confirmó ayer su salida de la compañía, poniendo fin a meses de especulaciones sobre su futuro tras la destitución de Sam Altman en noviembre de 2023. En su mensaje de despedida en X, Sutskever aseguró confiar en que OpenAI «construirá una inteligencia artificial general que sea segura y beneficiosa» bajo el liderazgo actual.
El mensaje mucho más duro de Jan Leike
Lo que ha convertido esta salida en algo más que un simple relevo es la despedida de Jan Leike, codirector junto a Sutskever del equipo de Superalignment, encargado de investigar cómo mantener bajo control a una IA mucho más capaz que la actual. A diferencia del tono conciliador de Sutskever, Leike publicó un hilo en X mucho más crítico, en el que afirmó llevar tiempo en desacuerdo con la dirección de OpenAI sobre sus prioridades centrales y que, en su opinión, «la cultura y los procesos de seguridad han pasado a un segundo plano frente a productos vistosos».
Leike añadió que su equipo llevaba meses «navegando contra corriente» para conseguir recursos de cómputo suficientes con los que investigar la seguridad a largo plazo, una queja que coincide con la disolución prácticamente simultánea del propio equipo de Superalignment.
Una lista de salidas que ya preocupa
Sutskever y Leike no son casos aislados. En los meses previos, varios miembros de los equipos de superalineación y seguridad habían dejado ya la compañía, un goteo que empieza a leerse como patrón más que como coincidencia y que alimenta las dudas sobre cómo está gestionando OpenAI el equilibrio entre lanzar productos rápido y vigilar sus riesgos.
Sam Altman ha respondido nombrando a Jakub Pachocki, investigador clave en el desarrollo de GPT-4, como nuevo científico jefe de la compañía, en sustitución directa de Sutskever.
Leike no tardaría en encontrar acomodo, semanas después se unió a Anthropic para continuar allí su trabajo sobre alineación de modelos, mientras que Sutskever tardaría algo más en revelar su siguiente paso: la fundación de Safe Superintelligence, una startup centrada en exclusiva en desarrollar IA superinteligente de forma segura.
Preguntas frecuentes
¿Qué dijo Jan Leike al dejar OpenAI?
En un hilo en X, afirmó que llevaba tiempo en desacuerdo con la dirección de la compañía y que la cultura y los procesos de seguridad habían pasado a un segundo plano frente a productos vistosos.
¿Qué era el equipo de Superalignment?
El equipo de OpenAI dedicado a investigar cómo mantener bajo control y alineada con los valores humanos a una IA mucho más capaz que la actual, codirigido por Ilya Sutskever y Jan Leike.
¿Quién sustituyó a Sutskever como científico jefe?
Jakub Pachocki, investigador clave en el desarrollo de GPT-4, nombrado por Sam Altman tras la salida de Sutskever.
¿Dónde fue Jan Leike después de OpenAI?
Se unió a Anthropic semanas después para seguir trabajando en alineación de modelos de IA.
