En una calurosa tarde de agosto en Silicon Valley, cuando el sol se ocultaba y la demanda de aire acondicionado se disparaba, Silicon Valley Power envió una señal a una fábrica de inteligencia artificial para ajustar su consumo energético. Varun Sivaram observaba a través de Zoom junto a unas cuarenta personas más: su equipo de Emerald AI en su sala de conferencias en San Francisco, ingenieros en el centro de datos y personal de la propia empresa de servicios públicos. Nadie hizo nada manualmente.
La plataforma Conductor de Emerald AI, desarrollada en asociación con NVIDIA, recibe señales sobre las condiciones de la red eléctrica y ajusta las cargas de trabajo de computación flexibles del centro de datos. Aquellos trabajos que pueden esperar se ralentizan o reprograman, mientras que los servicios de mayor prioridad continúan operando. El objetivo es reducir la demanda de electricidad cuando la red está limitada, sin interrumpir tareas críticas de IA, justo lo que Silicon Valley Power necesitaba.
Cuando la reducción de consumo se reflejó en la pantalla, todos aplaudieron. “Estábamos mirando con gran expectativa”, dijo Sivaram. “Fue nuestra primera vez desplegando miles de GPUs de NVIDIA”. Mansi Shah, jefa de producto, se mostró emocionada. “Se siente como el lanzamiento de un cohete de SpaceX”, comentó.
Desde entonces, Silicon Valley Power ha enviado más de 200 señales de demanda a esa fábrica de inteligencia artificial. Funcionó en todas y cada una de las ocasiones.
Este caso es un ejemplo de la flexibilidad de red en la práctica y señala un camino mayor para desbloquear el poder que necesitan las fábricas de IA de Estados Unidos sin tener que esperar una década para construir nuevas líneas de transmisión.
En la Cumbre de Infraestructura de IA, Ian Buck, vicepresidente de computación de alto rendimiento de NVIDIA, centró su discurso en la eficiencia de las fábricas de AI. Los resultados de la primera validación en un entorno de implementación del proveedor de la nube Lambda, publicados el mismo día, mostraron que con un presupuesto fijo de energía se puede aumentar el rendimiento de tokens en un 24% cuando se gestiona inteligentemente.
Dave Ward, presidente de servicios en la nube de Lambda, expresó: “Con nuestro concepto de prueba, creemos que hemos superado la limitación de los presupuestos de energía fijos”. El MaxLPS de NVIDIA DSX allana el camino para recuperar capacidad no aprovechada y convertirla en uso real, con una densidad de cómputo significativamente mayor en el mismo espacio.
Aquella tarde de agosto, cuando Silicon Valley Power hizo el llamado, Conductor actuó según una jerarquía de carga de trabajo predeterminada: las tareas de menor prioridad cedieron, las de inferencia de alta prioridad siguieron operando y el consumo de energía se redujo de cuatro megavatios a tres automáticamente, sin necesidad de un operador.
En la economía de fábricas de inteligencia artificial, la energía es la restricción. El trabajo por gigavatio es la métrica. Los operadores de centros de datos son meticulosos con la eficiencia: cada vatio utilizado es un vatio que ofrece computación productiva, y la industria ha logrado avances notables en cada capa, desde el diseño de las instalaciones hasta la conversión de energía a nivel de rack.
El DSX extiende esa disciplina hasta la carga de trabajo de IA. Una mejor provisión de racks lleva energía a donde realmente se necesita. La inteligencia operativa —programación más estricta, reinicios más rápidos, puntos de control más eficientes— mantiene a las GPUs funcionando en lugar de esperar. El objetivo sigue siendo el mismo que siempre han perseguido los operadores: más trabajo con la energía que tienes.
El fundador y CEO de NVIDIA, Jensen Huang, ha dicho: “Una fábrica de un gigavatio nunca se convertirá en una fábrica de dos gigavatios”. Los ingenieros, al alcanzar los límites físicos de los sistemas, siempre llegan a la misma conclusión: dejar de optimizar las partes y empezar a diseñar el conjunto. Presentado en la GTC de Taipéi en mayo, el NVIDIA DSX es esa respuesta para las fábricas de IA, y las implementaciones tempranas ya lo están demostrando.
Fuente: Zona de blogs y prensa de Nvidia
