IBM Research ha presentado NorthPole, un chip de inferencia diseñado desde cero para redes neuronales, con resultados que la compañía califica de 25 veces más eficientes en energía que las GPU actuales de 12 nm. El prototipo, desarrollado durante ocho años en el laboratorio de Almaden (California) bajo la dirección de Dharmendra Modha, ataca un problema estructural que ralentiza toda la infraestructura de IA: el cuello de botella de von Neumann.
El problema que resuelve NorthPole
En los chips convencionales, las unidades de cálculo y la memoria están separadas. Cada vez que el procesador necesita datos, los solicita a la memoria, genera una espera y consume energía en el traslado. Es el llamado cuello de botella de von Neumann, que se vuelve especialmente costoso en redes neuronales donde los datos fluyen continuamente entre capas.
NorthPole elimina esa separación: toda la memoria está integrada en el propio chip. El resultado es que el procesador accede a los pesos del modelo sin esperas ni transferencias externas. La limitación que introduce es que solo puede almacenar en memoria la parte del modelo que cabe en el chip, pero el equipo de IBM lo resuelve con un enfoque «scale-out» que divide redes neuronales grandes en subredes ajustadas a la memoria disponible.
Especificaciones técnicas
NorthPole está fabricado con un proceso de nodo de 12 nm, contiene 22.000 millones de transistores en 800 mm² y sus pruebas muestran:
- Eficiencia energética: 25 veces mejor que GPU de 12 nm en tareas de inferencia.
- Latencia: superior a las CPUs de 14 nm en los benchmarks realizados.
- Área de cálculo: menor espacio físico para ejecutar la misma carga que los chips convencionales.
Las pruebas se han centrado principalmente en visión por computadora, con extensiones al procesamiento de lenguaje natural (NLP) y reconocimiento de voz. Las aplicaciones que IBM identifica como objetivo son vehículos autónomos, robótica y asistentes digitales, todos escenarios donde la latencia y el consumo energético en edge son determinantes.
Inspirado en el cerebro humano
La arquitectura de NorthPole se aparta del diseño convencional para acercarse a cómo funciona el cerebro: unidades de cálculo distribuidas con memoria próxima a cada una, sin dependencia de un banco de memoria centralizado. Modha describe el chip como «una representación tenue del cerebro en el espejo de una oblea de silicio».
Este enfoque neuromorfo no es nuevo, pero NorthPole lo lleva a escala de producción real con un nodo de fabricación comercial. El contexto de fondo es el que describe bien la situación: el hardware de IA convencional consume cantidades de energía que amenazan con colapsar la infraestructura eléctrica de los centros de datos. Chips como NorthPole apuntan a hacer más con menos watts, un requisito que en 2025 ya es urgente.
IBM continúa trabajando en el desarrollo de NorthPole con el objetivo de combinar las ventajas de los procesadores tradicionales con la estructura distribuida del cerebro. El trabajo se desarrolla en IBM Research, el mismo laboratorio que produjo historial de investigación en computación cuántica y superconductores. El sector de formación en ingeniería de infraestructura de IA ya incorpora el diseño de chips especializados como una de las áreas de mayor demanda.
Fuente: IBM Research
Preguntas frecuentes
¿Qué es el cuello de botella de von Neumann?
Es la limitación de rendimiento que surge cuando las unidades de cálculo y la memoria están separadas. Cada operación requiere transferir datos entre ambas, lo que consume tiempo y energía. NorthPole lo elimina poniendo toda la memoria dentro del propio chip.
¿En qué se diferencia NorthPole de una GPU convencional?
Las GPUs son de propósito general y separan cálculo de memoria. NorthPole está diseñado exclusivamente para inferencia de redes neuronales, con memoria integrada en el chip y sin la sobrecarga de las transferencias externas. Esto lo hace 25 veces más eficiente en energía, pero sin capacidad de entrenamiento de modelos grandes.
¿Cuándo estará disponible NorthPole?
IBM no ha anunciado una fecha de disponibilidad comercial. A finales de 2023 NorthPole era un prototipo de investigación. IBM Research suele tardar varios años entre prototipo y producto comercial, aunque la urgencia del mercado de inferencia en edge podría acelerar ese proceso.
¿Qué es la computación neuromorfista?
Es un enfoque de diseño de hardware que imita la estructura del cerebro humano, distribuyendo cálculo y memoria de forma similar a como funcionan las neuronas y sinapsis. Chips como NorthPole (IBM) o Loihi (Intel) son ejemplos de esta línea de investigación.
