NVIDIA y Oracle han anunciado una expansión significativa en la colaboración de infraestructura de inteligencia artificial, con la disponibilidad general de los sistemas NVIDIA Vera Rubin NVL72 y CPUs NVIDIA Vera en Oracle Cloud Infrastructure (OCI). Esta colaboración está diseñada para satisfacer la creciente demanda de entrenamiento y aplicaciones de inferencia de inteligencia artificial, como así también para manejar cargas de trabajo agenticas que requieren una combinación de recursos de procesamiento intensivo de GPU y CPU.
La infraestructura mejorada permitirá a los clientes escalar los recursos de CPU y GPU de forma independiente, optimizando así la capacidad ociosa. Esto es esencial para reducir los tiempos de espera y maximizar la productividad de la infraestructura al mismo tiempo que se prepara el terreno para modelos de inteligencia artificial de frontera más avanzados.
OCI Superclusters se integran con sistemas en rack NVIDIA NVL72, utilizando la tecnología de interconexión NVIDIA Spectrum-X para ofrecer servicios de escalabilidad masiva, pudiendo escalar a través de cientos de miles de GPUs. Estos superclusters combinarán el poder de cómputo y la capacidad de enfriamiento a niveles de gigavatios, permitiendo a las organizaciones entrenar y desplegar modelos de inteligencia artificial de gran magnitud de manera más eficiente.
Además, Oracle planea introducir los sistemas NVIDIA HGX Rubin NVL8, caracterizados por un diseño que incluye ocho GPUs Rubin conectadas a través de NVLink en una configuración con servidores basados en x86. Estos sistemas integrarán CPUs Intel Xeon de 64 núcleos, 4TB de memoria DDR5 y una red de alta velocidad de 6,4 Tbps, proporcionando una opción de despliegue flexible para entrenamientos y funciones de inferencia de IA.
La colaboración ha sido ejemplificada por entidades como OpenAI, que ya ha estado utilizando un supercluster de OCI con más de 100,000 GPUs NVIDIA Blackwell para entrenar y servir modelos avanzados como el GPT-6 Astra. OpenAI destaca la importancia de esta infraestructura para mantener el ritmo con sus modelos de vanguardia, permitiendo un entrenamiento más rápido y el servicio a tareas de IA exigentes.
El uso de CPUs NVIDIA Vera en OCI está pensado para acelerar operaciones intensivas de CPU detrás de los agentes de IA, tales como la ejecución de herramientas, el código y la recuperación de información. La infraestructura promete reducir el tiempo de inactividad de las GPUs al permitir que los agentes completen sus tareas más rápidamente, contribuyendo así a un rendimiento consistente a medida que las cargas de trabajo escalan.
NVIDIA y Oracle continúan fortaleciendo su colaboración, apostando por una infraestructura de IA productiva, duradera y adaptable, diseñada para soportar las demandas cambiantes de los modelos y cargas de trabajo de inteligencia artificial a medida que evolucionan. Con esta expansión, ambas empresas esperan habilitar a las organizaciones para llevar las innovaciones de frontera en IA al mercado de forma más eficiente y escalable.
Fuente: Zona de blogs y prensa de Nvidia
