Geoffrey Hinton, de 75 años, dimió a su puesto en Google en mayo de 2023 y acompañó la salida con una advertencia pública sobre los peligros de la inteligencia artificial. Lo hizo en declaraciones al New York Times y a la BBC. «Algunos de los peligros de los chatbots de IA son bastante aterradores», dijo en la entrevista a la BBC. «Ahora mismo no son más inteligentes que nosotros, hasta donde puedo decir. Pero creo que pronto podrían serlo». Hinton es conocido como el padrino del aprendizaje profundo (deep learning): su trabajo pionero en redes neuronales en la década de 1980 es la base sobre la que se construyeron modelos como GPT-4 y el ChatGPT que tanto le preocupa hoy.
Por qué Hinton considera peligrosa la IA actual
La preocupación central de Hinton tiene que ver con cómo los sistemas digitales aprenden de forma diferente a los humanos. Un sistema como ChatGPT puede ejecutarse en múltiples copias que comparten el mismo conjunto de pesos y aprenden por separado, pero comparten su conocimiento al instante. Eso les permite acumular mucha más información que cualquier persona. Según Hinton, el ritmo al que estos sistemas superan la cantidad de información que puede manejar un cerebro humano es más rápido de lo que anticipaba.
En el New York Times, Hinton alertó sobre «malos actores» que podrían usar la IA para fines dañinos. Cuando la BBC le pidió que concretara, describió el riesgo de que actores estatales como Rusia equipen a sistemas autónomos con la capacidad de definir sus propios objetivos secundarios, objetivos que podrían incluir la acumulación de poder. Es el escenario de alineamiento que llevan años discutiendo los investigadores de seguridad en IA. La trayectoria de los modelos en benchmarks de razonamiento autónomo, como los analizados en el informe sobre Claude Mythos frente a METR, muestra que esa preocupación tiene base empírica.
El contexto: la carta de pausa y la carrera entre empresas
La renuncia de Hinton llegó pocas semanas después de que una carta abierta firmada por Elon Musk, Steve Wozniak y decenas de investigadores pidiera una pausa de seis meses en el desarrollo de sistemas más potentes que GPT-4. Hinton no firmó esa carta, pero comparte el fondo de la preocupación. Dicho esto, considera que una pausa es prácticamente inviable porque la competencia entre países y entre empresas hace difícil que nadie frene sin que otro aproveche el hueco.
A corto plazo, Hinton cree que la IA traerá más beneficios que riesgos. Lo que le preocupa es el horizonte a medio y largo plazo, especialmente si el desarrollo sigue sin marcos regulatorios claros. La respuesta de Google a su salida fue marcó la línea corporativa: Jeff Dean, científico jefe de Google en aquel momento, declaró que la compañía seguía comprometida con un enfoque responsable de la IA.
Quién es Geoffrey Hinton
Hinton nació en Wimbledon en 1947. Se graduó en Psicología Experimental en Cambridge en 1970 y obtuvo su doctorado en inteligencia artificial en la Universidad de Edimburgo en 1977. Trabajó en la Universidad de Carnegie Mellon y en Toronto, donde fundó DNNresearch Inc. junto con sus estudiantes Ilya Sutskever y Alex Krizhevsky. Google adquirió la empresa en 2013 y Hinton pasó a trabajar para la compañía de forma part-time, combinando el trabajo corporativo con la investigación académica en Toronto.
En 2018, Hinton recibió el Premio Turing junto con Yoshua Bengio y Yann LeCun por sus contribuciones al aprendizaje profundo. Su trabajo en redes neuronales y el algoritmo de backpropagation en la década de 1980 sentó las bases técnicas de casi todos los sistemas de IA modernos. Un hito concreto: en 2012, Hinton, Sutskever y Krizhevsky ganaron el concurso ImageNet con AlexNet, una red neuronal que reducía el error de clasificación de imagen a la mitad respecto a los métodos anteriores. Ese resultado marcó el inicio del auge del deep learning como tecnología dominante.
Fuente: BBC.
Preguntas frecuentes
¿Por qué dejó Hinton Google?
Hinton declaró que quería hablar libremente sobre los riesgos de la IA sin la limitación de representar a una empresa. Aclaró que no se iba por desacuerdo con Google, a la que describió como «muy responsable», sino para poder expresar sus preocupaciones sin restricciones corporativas.
¿Cuáles son los riesgos que señala Hinton?
Los dos principales: que los sistemas de IA acumulen más información y capacidad que los humanos en un tiempo corto, y que actores maliciosos puedan usar sistemas autónomos para lograr objetivos dañinos que el sistema definiría por su cuenta.
¿Qué premios tiene Geoffrey Hinton?
El más conocido es el Premio Turing 2018, que compartió con Yoshua Bengio y Yann LeCun por sus contribuciones al aprendizaje profundo. También recibió la Medalla de Oro Herzberg de Canadá para la Ciencia y la Ingeniería en 2011 y es miembro de la Royal Society.
¿Siguió Hinton investigando tras dejar Google?
Sí. Hinton mantuvo su afiliación con la Universidad de Toronto y siguió participando en debates públicos sobre seguridad en IA. En 2024 recibió el Premio Nobel de Física junto a John Hopfield por sus contribuciones al aprendizaje automático con redes neuronales artificiales.
