La empresa tecnológica OpenAI, conocida por desarrollar el modelo de lenguaje ChatGPT, ha decidido suprimir su departamento dedicado a analizar los riesgos futuros de la Inteligencia Artificial (IA) apenas un año después de su creación, según informaron este viernes medios especializados en Estados Unidos.
Disolución del Departamento Superalignment
Este departamento, denominado Superalignment, había sido creado con el objetivo de evaluar los peligros potenciales que podrían surgir con el avance de la inteligencia artificial. Se preveía destinar hasta un 20% de la capacidad de cálculo de OpenAI durante los próximos cuatro años a esta división. Sin embargo, la plantilla de esta sección está siendo recolocada en otras áreas de la compañía, según la prensa estadounidense.
Salidas Significativas
La noticia llega pocos días después de que Ilya Sutskever, cofundador de OpenAI, y Jan Leike, codirector de Superalignment, anunciaran su salida de la empresa. Ambos argumentaron que OpenAI debería enfocarse más en la seguridad, la vigilancia, la preparación y el impacto social de sus desarrollos.
«Construir máquinas más inteligentes que los humanos es un esfuerzo inherentemente peligroso. OpenAI está asumiendo una enorme responsabilidad en nombre de toda la humanidad. Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos innovadores», escribió Leike en su cuenta de X (anteriormente Twitter) tras su salida.
Cambios en la Dirección
Este movimiento sigue a la controvertida destitución en noviembre del año pasado del cofundador y consejero delegado de OpenAI, Sam Altman, por una supuesta falta de honestidad. La destitución generó una gran incertidumbre entre inversores y empleados. Sin embargo, en el lapso de una semana, Altman fue reinstalado en su puesto, mientras que miembros del consejo que votaron a favor de su destitución, incluido Sutskever, abandonaron sus cargos en el consejo, aunque Sutskever permaneció en la empresa en otra capacidad.
Tensión interna
Informes de medios como The Wall Street Journal indicaron que la pugna interna entre Altman y Sutskever se debía a sus enfoques divergentes. Mientras Sutskever estaba más preocupado por el impacto de la IA en los humanos, Altman se centraba en la innovación continua.
Nuevos lanzamientos
A pesar de estos cambios internos, OpenAI continúa avanzando en sus desarrollos tecnológicos. Esta semana, la compañía lanzó un nuevo modelo de IA, GPT-4o, GPT-4, y una versión de escritorio de ChatGPT, junto con una interfaz actualizada que permite a los usuarios comunicarse por vídeo con el bot conversacional.
La supresión del departamento Superalignment plantea preguntas sobre el enfoque futuro de OpenAI en la gestión de los riesgos asociados con la inteligencia artificial, especialmente cuando la empresa sigue adelante con innovaciones que transforman la manera en que interactuamos con la tecnología.
