Mistral AI ha introducido su último modelo de lenguaje, el Mistral-Small-3.2-24B-Instruct-2506, diseñado con 24 mil millones de parámetros que prometen optimizar el seguimiento de instrucciones y reducir la incidencia de errores repetitivos. Este innovador sistema ahora está accesible para clientes en Amazon SageMaker JumpStart y Amazon Bedrock Marketplace.
El modelo, que conserva la misma estructura de parámetros que su predecesor, incorpora significativas mejoras. Según benchmarks de Mistral, la nueva versión ofrece un 84.78% de precisión en el seguimiento de instrucciones, comparado con el 82.75% del modelo anterior. Asimismo, se ha logrado reducir las respuestas repetitivas de un 2.11% a un 1.29%. Entre otros avances, el modelo presenta una robusta plantilla para llamadas a funciones y capacidad para procesar tanto textos como imágenes, lo que facilita tareas complejas como comprensión de documentos y generación visual.
La nueva versión es especialmente relevante para aplicaciones empresariales dentro de AWS, donde la precisión es esencial. Con un contexto capaz de manejar 128,000 tokens, Mistral-Small-3.2 puede gestionar documentos extensos y mantener la coherencia en largas conversaciones.
SageMaker JumpStart permite a los usuarios acceder a modelos de última generación para distintas aplicaciones como creación de contenido, programación y búsqueda de información. Los modelos de Mistral se pueden desplegar mediante el entorno de Amazon SageMaker Studio o utilizando el SDK de Python.
Para emplear el modelo a través del Amazon Bedrock Marketplace, los usuarios deben seleccionar Mistral-Small-3.2-24B-Instruct-2506 y configurar los detalles de su implementación, recomendándose el uso de instancias GPU para un rendimiento óptimo.
Más allá de su implementación, el modelo ofrece un rendimiento sobresaliente en tareas complejas como el análisis de datos económicos, destacando su utilidad en una variedad de aplicaciones. Con este lanzamiento, Mistral AI reafirma su compromiso de entregar herramientas avanzadas a desarrolladores y empresas que maximizan el uso de la inteligencia artificial.