En el marco de su debut en los benchmarks de MLPerf, la plataforma NVIDIA Vera Rubin ha presentado resultados impresionantes en términos de rendimiento en entrenamiento, post-entrenamiento e inferencia agente. NVIDIA ha logrado conquistar todos los parámetros del MLPerf Training v6.1 y, en su primera presentación de los Endpoints de MLPerf, ha obtenido ganancias generacionales de más de 10 veces en productividad por vatio para la inteligencia artificial agente, midiendo la cantidad de trabajo agente realizada por el sistema con cada vatio de energía.
Estos resultados son solo el comienzo. El rendimiento de Vera Rubin continuará mejorando gracias a la optimización continua de la pila de software impulsada por CUDA de NVIDIA. Esto significa que la infraestructura en la que invierten los clientes hoy en día aumentará su valor con el tiempo.
Los agentes de IA están presentes en todos lados, desde la escritura de código hasta la realización de flujos de trabajo empresariales, respondiendo consultas de los clientes y avanzando la investigación científica, como se destacó en la conferencia SC26. Un entrenamiento más rápido permite que los agentes más inteligentes lleguen a los usuarios con mayor prontitud, que los modelos de descubrimiento de fármacos mantengan el ritmo con los nuevos datos de laboratorio, y que los modelos de detección de fraude se adapten a nuevas amenazas de manera más ágil.
El MLPerf Training mide la velocidad con la que un sistema puede entrenar una gama de modelos de IA hasta un nivel de precisión objetivo. La plataforma de NVIDIA fue la única que presentó resultados en cada uno de los benchmarks en esta ronda, abarcando grandes modelos de lenguaje, generación de imágenes, sistemas de recomendación y aprendizaje por refuerzo post-entrenamiento. En su debut, el sistema Vera Rubin NVL72 mostró hasta el doble de rendimiento por GPU en comparación con el ya optimizado sistema NVIDIA GB300 NVL72.
NVIDIA también demostró un rendimiento a gran escala en el benchmark DeepSeek-V3, donde el Vera Rubin NVL72 se escaló de 256 a 1,024 GPUs con aproximadamente un 97% de eficiencia: cuadruplicando las GPUs, redujeron el tiempo de entrenamiento de 16 minutos a aproximadamente cuatro. Asimismo, NVIDIA ejecutó el benchmark en 10,240 GPUs con sistemas GB300, representando la mayor escala en esta ronda. Microsoft Azure igualó esa escala utilizando 10,240 GPUs NVIDIA con sistemas GB200.
Los resultados a gran escala son significativos, ya que añadir GPUs solo acelera el entrenamiento si pueden trabajar juntas de manera eficiente. La conectividad de escalamiento en red NVIDIA NVLink conecta las GPUs dentro de cada sistema para que actúen como una sola, mientras que la red NVIDIA Quantum-X800 InfiniBand y Spectrum-X Ethernet conectan esos sistemas a través del centro de datos.
Por otro lado, un agente de IA para el sector de viajes que planifica y reserva un viaje completo, o un agente de TI que detecta y soluciona problemas antes de que se reporten, puede requerir múltiples pasos de razonamiento, uso de herramientas y verificación de resultados para completar una sola tarea. Cada uno de estos pasos genera tokens y, dado que los centros de datos de IA están limitados por el consumo de energía, cuántos más tokens pueda generar un sistema por segundo y vatio de energía, más agentes podrá atender y más valor creará.
La prueba de MLPerf Endpoints evalúa sistemas en codificación real de agentes y flujos de trabajo empresariales, comprobando que los agentes completen sus tareas correctamente. En este ámbito, NVIDIA Vera Rubin lidera en todos sus benchmarks agentes. Por ejemplo, en un resultado provisional para Kimi K3, un gran modelo abierto desarrollado para flujos de trabajo de agentes, los sistemas Vera Rubin NVL72 logran más de 10 veces el rendimiento por vatio del sistema NVIDIA GB300 NVL72 con la misma velocidad de respuesta.
Cada servicio de IA debe equilibrar la atención simultánea a muchos usuarios con una rápida respuesta individual. Vera Rubin mejora toda esa relación, atendiendo a más usuarios mientras responde con mayor rapidez. En conjunto, NVIDIA y sus socios han mostrado en el entrenamiento MLPerf cómo su plataforma programable, junto con bibliotecas y marcos de código abierto, permite a un vasto ecosistema de socios innovar y optimizar el rendimiento del entrenamiento de IA.
El liderazgo de NVIDIA se extiende más allá de MLPerf. Vera Rubin también ha demostrado un rendimiento destacado en benchmarks independientes como SemiAnalysis AgentX y Artificial Analysis AgentPerf, mostrando que la misma infraestructura de NVIDIA puede ejecutar productivamente desde el pre-entrenamiento hasta la inferencia agente, así como cargas de trabajo más allá de la IA, como las mostradas en la conferencia SC26 de esta semana.
Fuente: Zona de blogs y prensa de Nvidia













