El fabricante de chips para inferencia de inteligencia artificial, d-Matrix, ha anunciado recientemente que utilizará NVIDIA NVLink Fusion para conectar sus futuros Raptor XPUs con la plataforma de infraestructura de inteligencia artificial de NVIDIA, sumándose así a una creciente lista de socios del ecosistema tecnológico. La conexión de Raptor mediante NVLink y la red de expansión Spectrum-X con la arquitectura del rack NVIDIA MGX y la plataforma de inteligencia artificial más amplia de NVIDIA proporciona a d-Matrix una vía acelerada y de menor riesgo, desde la creación de un chip personalizado hasta su despliegue a gran escala.
Sid Sheth, cofundador y CEO de d-Matrix, destacó durante una conferencia de prensa que, aunque la demanda de inferencia está en aumento, los recursos de capital, tiempo y energía son limitados. “Con NVLink Fusion y MGX, podemos integrar nuestros Raptor XPUs en una arquitectura ampliamente desplegada y refrigerada por líquido, ofreciendo a los clientes una vía más rápida y de menor riesgo para el despliegue y escalado de inferencia ultrabaja en latencia”, explicó Sheth.
La plataforma de inteligencia artificial de NVIDIA está diseñada para ser verticalmente integrada y horizontalmente abierta. NVLink Fusion extiende esta apertura a XPUs y CPUs, permitiendo a las empresas centrarse en innovaciones en sus procesadores mientras utilizan la infraestructura de NVIDIA para desplegarlos a escala de fábrica de inteligencia artificial.
El uso de NVLink Fusion por parte de d-Matrix permitirá conectar directamente sus XPUs con un dominio único de alto ancho de banda y baja latencia. Sus racks también podrán operar junto con sistemas basados en GPUs de NVIDIA, como el NVIDIA Vera Rubin NVL72, para una inferencia desagregada. Además, planean integrar tecnologías de NVIDIA como CPUs Vera, ConnectX-9 SuperNICs, BlueField-4 DPUs y redes Ethernet Spectrum-X, lo que proporciona a d-Matrix una base comprobada para desplegar inferencia especializada junto a sistemas de NVIDIA en fábricas de inteligencia artificial flexibles y unificadas.
La plataforma completa de fábrica de inteligencia artificial de NVIDIA está diseñada para ser totalmente intercambiable, gestionando cada carga de trabajo, modelo y arquitectura de modelos de IA con el mejor rendimiento por vatio y el menor costo por token. NVLink Fusion proporciona a los clientes la flexibilidad de adaptar el cómputo adecuado a cada carga de trabajo dentro de una plataforma común de fábrica de IA, abriendo el acceso a la red, sistemas, software y cadena de suministro global de NVIDIA. Esta integración permite a innovadores en el ámbito del silicio, como d-Matrix, incrementar el rendimiento, acelerar el tiempo al mercado y reducir el riesgo en el despliegue de fábricas de inteligencia artificial semipersonalizadas.
Fuente: Zona de blogs y prensa de Nvidia
