Geoffrey Hinton, de 75 años, ampliamente considerado como el padrino de la inteligencia artificial (IA), ha renunciado a su trabajo en Google, advirtiendo sobre los crecientes peligros que surgen de los avances en el campo. Hinton anunció su dimisión en una declaración al New York Times, expresando su arrepentimiento por su trabajo. Comentó a la BBC que algunos de los peligros de los chatbots de IA son «bastante aterradores». «Ahora mismo, no son más inteligentes que nosotros, hasta donde puedo decir. Pero creo que pronto podrían serlo».
El trabajo pionero del Dr. Hinton en redes neuronales y aprendizaje profundo ha allanado el camino para los sistemas actuales de IA como ChatGPT. Las redes neuronales son sistemas similares al cerebro humano en la forma en que aprenden y procesan información. En la entrevista con la BBC, Hinton mencionó que los chatbots pronto podrían superar la cantidad de información que posee un cerebro humano.
En el artículo del New York Times, el Dr. Hinton se refirió a «malos actores» que intentarían usar la IA para «cosas malas». Cuando la BBC le pidió que ampliara esta idea, Hinton describió un «escenario de pesadilla» en el que un mal actor como el presidente ruso Vladimir Putin podría dar a los robots la capacidad de crear sus propios objetivos secundarios, lo que eventualmente podría generar objetivos como «necesito obtener más poder».
El científico británico-canadiense también advirtió que la inteligencia que estamos desarrollando es muy diferente de la nuestra. Con los sistemas digitales, muchas copias del mismo conjunto de pesos pueden aprender por separado pero compartir sus conocimientos instantáneamente, lo que permite a los chatbots saber mucho más que cualquier persona.
Matt Clifford, presidente de la Advanced Research and Invention Agency del Reino Unido, declaró que el anuncio del Dr. Hinton «subraya la velocidad a la que las capacidades de la IA se están acelerando». Añadió que era esencial que el mundo invierta de manera intensiva y urgente en la seguridad y el control de la IA.
El Dr. Hinton se une a un número creciente de expertos que han expresado preocupaciones sobre la IA, tanto la velocidad a la que se está desarrollando como la dirección en la que avanza. En marzo, una carta abierta firmada por docenas de personas en el campo de la IA, incluido el multimillonario tecnológico Elon Musk, pidió una pausa en todos los desarrollos más avanzados que la versión actual del chatbot de IA ChatGPT para diseñar e implementar medidas de seguridad sólidas.
Sin embargo, Hinton cree que en el corto plazo, la IA proporcionará muchos más beneficios que riesgos. También señaló que la competencia internacional dificultaría una pausa en el desarrollo de la IA y que es responsabilidad del gobierno garantizar que se desarrolle la IA «con mucho pensamiento sobre cómo evitar que se vuelva rebelde».
A pesar de su renuncia, el Dr. Hinton destacó que no quería criticar a Google y que la compañía había sido «muy responsable». En una declaración, Jeff Dean, el científico jefe de Google, dijo: «Seguimos comprometidos con un enfoque responsable de la IA. Estamos aprendiendo continuamente para entender los riesgos emergentes al mismo tiempo que innovamos audazmente».
Es importante recordar que los chatbots de IA son solo un aspecto de la inteligencia artificial, aunque actualmente sean los más populares. La IA está detrás de los algoritmos que deciden qué contenido deberías ver a continuación en las plataformas de video en streaming. Se puede utilizar en la contratación para filtrar solicitudes de empleo, por aseguradoras para calcular primas y para diagnosticar condiciones médicas (aunque los médicos humanos siguen teniendo la última palabra).
Lo que estamos viendo ahora es el surgimiento de la inteligencia artificial general (AGI), que puede ser entrenada para realizar varias tareas dentro de un ámbito específico. Por ejemplo, ChatGPT solo puede ofrecer respuestas de texto a una consulta, pero las posibilidades dentro de ese contexto son infinitas.
Sin embargo, el ritmo acelerado de la IA ha sorprendido incluso a sus creadores. Ha evolucionado drásticamente desde que el Dr. Hinton construyó una red neuronal pionera para análisis de imágenes en 2012. Incluso el director ejecutivo de Google, Sundar Pichai, dijo en una entrevista reciente que ni siquiera él comprendía completamente todo lo que su chatbot de IA, Bard, hacía.
No cabe duda de que estamos en un tren acelerado en este momento, y la preocupación es que algún día comience a construir sus propias vías.
Biografía sobre Geoffrey Hinton
Geoffrey Hinton (Wimbledon, Reino Unido, 6 de diciembre de 1947) es un informático británico y canadiense especializado en inteligencia artificial. Es conocido como el «padrino» de la inteligencia artificial y fue galardonado con el Premio Turing en 2018 junto con Yoshua Bengio y Yann LeCun por su trabajo en aprendizaje profundo.
Educación: Hinton se graduó en Psicología Experimental en la Universidad de King’s College, Cambridge, en 1970. Luego, obtuvo su PhD en inteligencia artificial en 1977 en la Universidad de Edimburgo, bajo la supervisión de Christopher Longuet-Higgins.
Carrera e investigación: Hinton ha trabajado en diversas universidades, como la Universidad de Sussex, la Universidad de California, San Diego, y la Universidad Carnegie Mellon. Fue director fundador de la Fundación Benéfica Gatsby de la unidad de Neurociencia Computacional en el University College de Londres, y más tarde, profesor en el departamento de informática de la Universidad de Toronto. También trabajó para Google después de que la empresa adquirió su compañía, DNNresearch Inc., en 2013.
El enfoque de investigación de Hinton se centra en el uso de redes neuronales para el aprendizaje automático, la memoria, la percepción y el procesamiento de símbolos. Ha contribuido en áreas como algoritmo de backpropagation, máquinas de Boltzmann, representaciones distribuidas, red neuronal con retraso de tiempo, mezclas de expertos, máquinas de Helmholtz y Producto de Expertos.
Honores: Hinton ha sido reconocido con numerosos premios y honores, como miembro de la Royal Society, el David E. Rumelhart Premio en 2001, Doctorado Honoris causa de la Universidad de Edimburgo y la Universidad de Sherbrooke, y el Herzberg Canadá Medalla de Oro para la Ciencia y la Ingeniería en 2011, entre otros.
Vida personal: Hinton es descendiente del lógico George Boole y del médico cirujano James Hinton. Se mudó de Estados Unidos a Canadá debido a desilusiones con la política de la era de Reagan y su desaprobación del financiamiento militar de la inteligencia artificial.
Más información en BBC. Foto Wikipedia.
