En un anuncio que marca un antes y un después en el mundo de la computación acelerada y la inteligencia artificial generativa, NVIDIA ha presentado su plataforma de próxima generación, NVIDIA GH200 Grace Hopper™. Esta innovación se basa en el nuevo Superchip Grace Hopper, integrando por primera vez en el mundo un procesador HBM3e, diseñado específicamente para manejar las cargas de trabajo de IA generativa más complejas de la actualidad.
La plataforma GH200 Grace Hopper está configurada para revolucionar el procesamiento de modelos de lenguaje de gran tamaño, sistemas de recomendación y bases de datos vectoriales, ofreciendo configuraciones versátiles adaptadas a diversas necesidades computacionales.
La configuración dual de esta plataforma proporciona hasta 3.5 veces más capacidad de memoria y 3 veces más ancho de banda que las generaciones anteriores, albergando en un solo servidor 144 núcleos Arm Neoverse, ocho petaflops de rendimiento en IA y 282GB de la más reciente tecnología de memoria HBM3e.
Jensen Huang, fundador y CEO de NVIDIA, destacó la importancia de plataformas de computación acelerada para satisfacer la creciente demanda de IA generativa. «Los centros de datos requieren plataformas de computación acelerada con necesidades especializadas para enfrentar el auge de la IA generativa. La nueva plataforma Superchip GH200 Grace Hopper cumple con estas expectativas ofreciendo tecnología de memoria excepcional y ancho de banda, capacidad de conectar GPU para maximizar el rendimiento y un diseño de servidor fácilmente escalable.»
Utilizando el Superchip Grace Hopper, que puede conectarse a otros Superchips mediante NVIDIA NVLink™, se facilita la colaboración entre ellos para desplegar los modelos gigantes usados en la IA generativa. Esta tecnología coherente de alta velocidad otorga al GPU acceso total a la memoria del CPU, ofreciendo 1.2TB de memoria rápida en configuración dual.
La memoria HBM3e, un 50% más rápida que la HBM3 actual, proporciona un ancho de banda combinado de 10TB/seg, permitiendo a la nueva plataforma ejecutar modelos 3.5 veces más grandes que su predecesora, mejorando el rendimiento con un ancho de banda de memoria 3 veces más rápido.
La demanda de la tecnología Grace Hopper ya se refleja en los sistemas ofrecidos por fabricantes líderes basados en el Superchip Grace Hopper previamente anunciado. Con el objetivo de promover una adopción amplia, la próxima generación de la plataforma Superchip Grace Hopper con HBM3e es totalmente compatible con la especificación de servidor NVIDIA MGX™, presentada en COMPUTEX. Esto permite a cualquier fabricante de sistemas incorporar Grace Hopper en más de 100 variaciones de servidores de manera rápida y rentable.
Se espera que los principales fabricantes de sistemas comiencen a ofrecer soluciones basadas en esta plataforma para el segundo trimestre del año calendario 2024.
