NVIDIA ha lanzado hoy el modelo Nemotron 3.5 Super VL, un modelo abierto con 120 mil millones de parámetros diseñado para ofrecer la más alta precisión y la finalización de tareas más rápida en agentes especializados siempre activos. Este avance se suma a la introducción de dos nuevos modelos destinados al «edge computing»: Nemotron 3.5 Bolt 74B-A9B de 24GB, optimizado para equilibrar inteligencia y velocidad por GB para cargas de trabajo locales, y Nemotron 3.5 Bolt E4B de 4GB, diseñado para ofrecer inteligencia por GB para agentes conversacionales rápidos. Mientras que los modelos Super VL y Bolt 74B-A9B están disponibles de inmediato, el Bolt E4B se espera para el 23 de octubre.
Estos nuevos modelos cubren un amplio espectro de implementaciones de agentes, abarcando desde grandes servidores empresariales hasta dispositivos y hardware local. Las organizaciones que busquen ejecutar agentes en la infraestructura de NVIDIA ya cuentan con un modelo abierto y optimizado para su nivel, evitando tener que elegir entre capacidad y facilidad de implementación.
El modelo Super VL y los modelos Bolt forman parte de la familia Nemotron, junto con los modelos Lightning y Ultra. Lightning, lanzado en agosto, maneja cargas de trabajo de alto rendimiento; Ultra se encarga de las tareas de razonamiento más complejas; y Bolt lleva la inteligencia a los dispositivos Edge.
El Nemotron 3.5 Super VL, desarrollado en colaboración con la Coalición Nemotron, proporciona una precisión líder en tareas multimodales —como el seguimiento de instrucciones, el uso de herramientas, flujos de trabajo empresariales y comprensión visual— comparable al mayor modelo de razonamiento de NVIDIA, pero con sólo una quinta parte de la cantidad de parámetros. Es el modelo de agentes abiertos más rápido en su clase, 5 veces más rápido que el siguiente mejor, lo que permite a los agentes empresariales completar tareas de alto volumen más rápidamente en flujos de trabajo que pueden durar días o semanas.
Por otro lado, el Bolt 74B-A9B de 24GB, está diseñado para realizar tareas diarias localmente en sistemas como NVIDIA RTX/DGX Spark, utilizando una cuantificación de 2 bits nativa para adaptarse en 24GB de memoria. Este modelo proporciona un buen equilibrio entre inteligencia y velocidad y permite a los usuarios delegar sus proyectos a agentes locales sin necesidad de enviar las cargas de trabajo a la nube.
El modelo Bolt E4B de 4GB está destinado a proporcionar inteligencia conversacional y capacidades de agente para la creación de asistente de voz locales, personajes interactivos e interfaces embebidas.
NVIDIA ha señalado que múltiples organizaciones están post-entrenando el modelo Super VL con sus propios datos para mejorar la precisión en tareas específicas de sus despliegues. Firmas como Scale AI, AfterQuery, y AI21 han adaptado este modelo para diversos propósitos que incluyen desde finanzas hasta ciberseguridad. Además, plataformas de software como Atlassian, CrowdStrike y Salesforce están integrando el modelo Nemotron 3.5 Super VL en sus procesos.
Este modelo de inteligencia artificial está diseñado para trabajar en una variedad de sistemas de NVIDIA, desde estaciones de trabajo hasta dispositivos Edge, proporcionando inteligencia local y seguridad de datos al mantener las operaciones y los datos dentro de la organización. Con sus capacidades de personalización, apertura de datos y control sobre el modelo, las organizaciones tienen la flexibilidad de adaptarlas a sus necesidades específicas sin comprometer la seguridad o la privacidad.
Nemotron 3.5 Super VL ya está disponible en plataformas como Hugging Face y ModelScope, reflejando el compromiso de NVIDIA con el acceso abierto y la innovación continua.
Fuente: Zona de blogs y prensa de Nvidia
