Lambda Incrementa Resiliencia y Eficiencia de Fábrica de IA con Fotónica de NVIDIA

En un mundo donde la inteligencia artificial (IA) sigue desafiando los límites de la tecnología, la eficiencia y resistencia de las redes se vuelven cada vez más cruciales. Lambda, un proveedor de servicios en la nube, ha dado un nuevo paso para abordar este reto mediante la implementación de interruptores ópticos coempaquetados con fotónica NVIDIA. Esta tecnología promete conectar estantes NVIDIA GB300 NVL72 con más de 10,000 GPUs, asegurando una menor pérdida de energía, mayor resiliencia y un tiempo medio entre interrupciones significativamente más largo.

«La red debe avanzar al ritmo que demandan los crecientes clústeres de IA», afirma Dave Ward, presidente de servicios en la nube en Lambda. La incorporación de ópticas coempaquetadas en una implementación de tal escala representa un avance crucial hacia la infraestructura necesaria para soportar la próxima generación de IA.

Las pruebas realizadas por la empresa muestran una reducción notable en la latencia de red: aproximadamente un 4% a escala de estante y hasta un 10% a escala de pod. Estos resultados se logran sin comprometer el rendimiento de la red, que mantiene el mismo nivel de rendimiento que las ópticas enchufables convencionales.

La eficiencia energética y la resiliencia de la red son más importantes que nunca, ya que cualquier interrupción en un trabajo de entrenamiento masivo puede paralizar miles de GPUs. Un fallo en la red puede generar efectos de latencia en cascada, consumiendo valiosos recursos de computación.

La tecnología NVIDIA Photonics propone solucionar estos problemas al reemplazar los transceptores enchufables con motores ópticos coempaquetados, ofreciendo hasta cinco veces mayor eficiencia energética y hasta quince veces más fiabilidad. Al utilizar menos láseres, disminuye el riesgo de fallos en los componentes.

El despliegue de Lambda emplea interruptores NVIDIA Photonics con 144 puertos que operan a 800 Gb/s y usa enfriamiento líquido, manteniendo una temperatura de ópticas media de 36°C, considerablemente más baja en comparación con los 51°C de las ópticas enchufables convencionales. Esto se traduce en una mayor integridad de la señal.

Además, la fotónica de NVIDIA acerca la conversión eléctrica-óptica al chip del interruptor. Cada interruptor cuenta con 18 fuentes de luz externas extraíbles, lo que facilita el intercambio de módulos en caso de fallo, sin necesidad de reemplazar el módulo completo, como ocurre con las ópticas enchufables tradicionales.

La coempaquetación reduce la distancia de la trayectoria eléctrica de pulgadas a milímetros, minimizando la pérdida de señal y eliminando la necesidad de chips de retimmer, lo que implica menos consumo de energía y menos componentes en la trayectoria de la señal. Lambda ha marcado un hito con este despliegue a gran escala de interruptores con fotónica NVIDIA, mostrando el camino hacia un futuro más eficaz y resiliente en redes para IA.
Fuente: Zona de blogs y prensa de Nvidia

Scroll al inicio