NVIDIA ha anunciado un avance significativo en la infraestructura de inteligencia artificial con su nuevo sistema NVIDIA Vera Rubin NVL72, equipado para acelerar la generación de tokens en sistemas agentivos. Este avance tecnológico se presentó oficialmente junto con el sistema en producción NVIDIA Groq 3 LPX, diseñado para ofrecer una velocidad de generación de tokens de clase mundial con 3,400 tokens por segundo en casos de uso de contexto largo de 100,000 tokens, superando a la plataforma más cercana en velocidad por cuatro veces.
Con la creciente demanda de sistemas de inteligencia artificial que no solo entrenan, sino que también razonan y colaboran, la inferencia se ha convertido en el nuevo campo de innovación. Esto ha llevado a la necesidad de una nueva infraestructura optimizada para el rendimiento integral y la economía de escala. NVIDIA, a través de su principio de “extreme codesign”, está configurando cada capa de la fábrica de inteligencia artificial para realizar cálculos, redes y aceleración de inferencias como un sistema unificado.
Empresas como SpaceXAI han optado por la adopción de la tecnología NVIDIA Vera Rubin para impulsar su futura arquitectura de inteligencia artificial agentiva. Los procesadores Vera CPUs se integrarán en centros de datos terrestres y satélites orbitales de SpaceXAI para acelerar el trabajo intensivo en CPU relacionado con inteligencia artificial agentiva, que incluye la orquestación, uso de herramientas, ejecución de códigos, procesamiento de datos y simulaciones.
Además, la empresa Nebius ha sido pionera en la adopción de NVIDIA Groq 3 LPX. Con la implementación de esta tecnología, han sido capaces de potenciar la producción en sus infraestructuras en nube y ofrecer experiencias en tiempo real a gran escala mediante la creación de agentes altamente interactivos.
En el ámbito de las redes, CoreWeave ha implementado en producción Spectrum-X Multiplane. Este avance permite conectar los racks de NVIDIA Vera Rubin mediante interruptores paralelos múltiples que proporcionan redes de inteligencia artificial de alto ancho de banda y pérdidas nulas. Spectrum-X Multiplane ofrece una manera de escalar fábricas de inteligencia artificial sin tener que añadir una nueva capa de red, optimizando el rendimiento en centros de datos masivos.
La nueva arquitectura de inclusión, denominada Scale-In, es otro pilar clave introducido por NVIDIA. Scale-In, impulsado por el procesador BlueField-4 y la plataforma de software DOCA, transforma la red de acceso tradicional en un dominio de infraestructura unificada y acelerada, facilitando la gestión de fábricas de inteligencia artificial agentivas.
Esta serie de innovaciones marca una era en la que la colaboración entre componentes y sistemas define la dirección de la inteligencia artificial. La visión de NVIDIA de un ecosistema integrado ofrece nuevas oportunidades para desarrollar infraestructuras globales y personalizadas que no serían posibles de manera aislada, permitiendo a sus socios innovar con una base tecnológica sólida y evolutiva.
Fuente: Zona de blogs y prensa de Nvidia
