Hoy se han anunciado los nuevos modelos de razonamiento de NVIDIA, Llama 3.3 Nemotron Super 49B V1 y Llama 3.1 Nemotron Nano 8B V1, que ya están disponibles a través de Amazon Bedrock Marketplace y Amazon SageMaker JumpStart. Estos modelos representan un avance en inteligencia artificial generativa, permitiendo a las organizaciones desarrollar, experimentar y escalar sus proyectos en la plataforma de AWS de manera responsable.
La integración de los microservicios de inferencia NVIDIA NIM es una de las características destacadas, ya que facilita el despliegue de modelos de IA generativa utilizando servicios gestionados de AWS. Estas soluciones están diseñadas para acelerar la implementación de aplicaciones de IA, permitiendo a los desarrolladores integrar inteligencia artificial generativa en sus aplicaciones con solo un comando o unas pocas líneas de código.
El modelo Llama 3.3 Nemotron Super 49B V1 ha sido optimizado utilizando el enfoque de Búsqueda de Arquitectura Neuronal (NAS) para reducir su huella de memoria y aumentar su eficiencia. Este modelo es capaz de manejar contextos de hasta 128,000 tokens, facilitando tareas complejas como la generación aumentada de datos y la integración de herramientas. Por otro lado, el Llama 3.1 Nemotron Nano 8B V1, es una versión más compacta que conserva capacidades similares, permitiendo su uso local con un modelo más pequeño.
Amazon Bedrock Marketplace ofrece una experiencia unificada y segura para el acceso a modelos de IA, permitiendo a las organizaciones encontrar el modelo que mejor se adapta a sus necesidades. Estos modelos son aplicables a una amplia gama de usos, desde la redacción de contenidos hasta la clasificación de información.
Para empezar a utilizar estos modelos, los usuarios solo deben suscribirse a ellos en Amazon Bedrock y seguir unos simples pasos para su despliegue. Se pueden realizar inferencias directamente en la consola de Bedrock o a través del SDK de SageMaker.
En conclusión, la introducción de los modelos Llama 3.3 y Llama 3.1 marca un hito en la capacidad de las empresas para adoptar soluciones avanzadas de inteligencia artificial. Con la infraestructura escalable de AWS, estas empresas pueden implementar estos modelos rápida y fácilmente, transformando sus aplicaciones de IA con tecnología de vanguardia.
