En el marco del Generative AI Summit Silicon Valley 2025, se abordó uno de los temas más críticos en el ámbito de la inteligencia artificial generativa: la creciente demanda de energía. Vishal Sarin, fundador y CEO de Sagence AI, destacó en una entrevista la urgente necesidad de optimizar la eficiencia energética para que esta tecnología alcance su pleno potencial.
Sarin señaló que, aunque el AI generativo ofrece enormes oportunidades, enfrenta un significativo cuello de botella por sus altos requerimientos energéticos. Subrayó que, para que la tecnología sea económicamente viable, es crucial repensar la arquitectura desde los chips hasta los sistemas de refrigeración, liberando nuevas innovaciones en eficiencia energética.
Durante el diálogo, se identificaron áreas clave para mejorar el consumo energético a lo largo de la pila de IA. Aunque hay oportunidades en generación y distribución de energía, el enfoque más crucial se encuentra en la computación y memoria, donde el gasto energético es mayor debido a la transferencia de datos. La implementación de la computación en memoria podría reducir significativamente tanto costos como consumo energético.
El concepto de computación en memoria busca integrar el proceso de cómputo con la memoria de manera más estrecha. Las arquitecturas tradicionales, al separar estas funciones, consumen más energía por el continuo movimiento de datos. Esta innovación promete mejorar la eficiencia energética, especialmente en tareas de inferencia del AI generativo.
Sarin también habló sobre el papel de los aceleradores de hardware, como las GPU, que aunque claves para el rendimiento, aumentan el consumo energético. Avanzar más allá de estas limitaciones requiere combinar los beneficios de estos aceleradores con innovaciones como la computación en memoria. Además, modelos de lenguaje más pequeños (SLMs) podrían ofrecer una solución más eficiente al reducir la necesidad de infraestructuras masivas.
Otro aspecto crítico es la innovación en sistemas de refrigeración y energía. La infraestructura de alta densidad para IA genera mucho calor, y las soluciones tradicionales ya no son suficientes. Innovaciones como el enfriamiento líquido y sistemas de recuperación de energía son vitales para controlar el consumo energético.
Vishal Sarin expresó optimismo sobre la capacidad de la industria para afrontar estos desafíos. La eficiencia y la sostenibilidad se han convertido en prioridades, lo que promete un futuro más viable para el AI generativo. Según Sarin, romper las barreras de eficiencia energética no es una opción, sino una necesidad, determinante para que el AI generativo ofrezca un valor transformador a largo plazo.
