En un movimiento audaz para democratizar el acceso a la inteligencia artificial generativa (GenAI) en el ámbito empresarial, Intel ha presentado el acelerador de IA Intel® Gaudi® 3 en el evento Intel Vision. Este nuevo acelerador promete entregar un rendimiento de cálculo de IA 4 veces superior para BF16, un incremento del 1.5 veces en el ancho de banda de la memoria y el doble de ancho de banda de red, comparado con su predecesor, el Intel® Gaudi® 2. Este salto en desempeño representa un avance significativo en la eficiencia y productividad para el entrenamiento e inferencia de IA en modelos de lenguaje amplio (LLMs) y modelos multimodales.
El Intel Gaudi 3 emerge como una alternativa convincente en el mercado GenAI, ofreciendo a las empresas globales una combinación de precio, rendimiento, escalabilidad del sistema y ventaja en tiempo de valor. «En el paisaje siempre en evolución del mercado de la IA, persiste un vacío significativo en las ofertas actuales. La retroalimentación de nuestros clientes y el mercado más amplio subraya un deseo de mayor elección», explicó Justin Hotard, vicepresidente ejecutivo de Intel y gerente general del Grupo de Centros de Datos y IA.
Hoy en día, las empresas de sectores críticos como finanzas, manufactura y salud buscan ampliar la accesibilidad a la IA y transitar proyectos de GenAI desde fases experimentales hacia implementaciones a gran escala. Para gestionar esta transición e impulsar la innovación, las empresas requieren soluciones abiertas, rentables y más eficientes en energía que cumplan con las necesidades de retorno de inversión (ROI) y eficiencia operacional.
El Intel Gaudi 3 cumple con estos requisitos y ofrece versatilidad a través de software basado en la comunidad abierta e interconexión de red Ethernet estándar de la industria, ayudando a las empresas a escalar sus sistemas y aplicaciones de IA de manera flexible.
El acelerador Intel Gaudi 3, diseñado para cálculo de IA a gran escala eficiente, es fabricado en un proceso de 5 nanómetros (nm) y ofrece avances significativos sobre su predecesor. Cada acelerador cuenta con un motor de cómputo heterogéneo compuesto por 64 núcleos de procesador tensorial (TPCs) AI-custom y programables y ocho MMEs (Motor de Multiplicación de Matrices), cada uno capaz de realizar 64,000 operaciones paralelas. Esto facilita una eficiencia computacional alta, haciéndolos adeptos para manejar operaciones matriciales complejas, fundamentales para los algoritmos de aprendizaje profundo.
Con 128 gigabytes (GB) de capacidad de memoria HBMe2, 3.7 terabytes (TB) de ancho de banda de memoria y 96 megabytes (MB) de memoria estática de acceso aleatorio (SRAM) a bordo, el Intel Gaudi 3 ofrece amplia memoria para procesar grandes conjuntos de datos GenAI en menos aceleradores Gaudi 3, lo que resulta en mayor rendimiento de carga de trabajo y eficiencia de costos del centro de datos.
Este acelerador está diseñado para escalar eficientemente desde un solo nodo hasta miles, para satisfacer los requisitos expansivos de los modelos GenAI. Además, la integración del software Gaudi de Intel con el marco PyTorch y modelos optimizados de la comunidad Hugging Face facilita la productividad de los desarrolladores GenAI.
El lanzamiento del acelerador Intel Gaudi 3 promete mejoras significativas en el rendimiento para tareas de entrenamiento e inferencia en modelos GenAI líderes, marcando un hito en la adopción de mercado y disponibilidad para el segundo y tercer trimestre de 2024. Este desarrollo será fundamental para Falcon Shores, la próxima generación de unidad de procesamiento gráfico (GPU) de Intel para IA y computación de alto rendimiento (HPC), integrando la propiedad intelectual de Intel Gaudi e Intel® Xe bajo una única interfaz de programación de GPU basada en la especificación Intel® oneAPI.
