En el reciente AWS Summit celebrado en Nueva York, Amazon ha revelado una nueva suite de capacidades de personalización para sus modelos de inteligencia artificial conocidos como Amazon Nova. Estas mejoras están disponibles como recetas preconfiguradas en Amazon SageMaker AI, facilitando a los usuarios la adaptación de los modelos Nova Micro, Nova Lite y Nova Pro durante todo el ciclo de vida del entrenamiento.
La presentación destacó la técnica de Optimización de Preferencias Directa (DPO), diseñada para ajustar las salidas de los modelos según las preferencias específicas de cada usuario. Esta técnica emplea pares de respuestas, una preferida y otra no, guiando al modelo hacia resultados que reflejen de manera precisa el tono y las directrices requeridas.
Los modelos personalizados pueden ser desplegados en Amazon Bedrock, con un rendimiento de salida adaptado a las necesidades. La versión DPO, eficiente en cuanto a parámetros, permite realizar inferencias según demanda. Estas opciones de personalización ofrecen flexibilidad, facilitando la selección del entorno adecuado según los requerimientos de infraestructura y escala.
El procedimiento para aplicar estas recetas en SageMaker comienza con la elección de una receta de personalización específica, que ofrece configuraciones detalladas para controlar los parámetros de entrenamiento. Una vez enviada la solicitud a través de una API, SageMaker se encarga de aprovisionar la infraestructura y llevar a cabo el entrenamiento distribuido necesario.
Esta arquitectura proporciona una experiencia gestionada completamente, permitiendo definir rápidamente los parámetros de entrenamiento y elegir la infraestructura adecuada, mientras SageMaker maneja toda la gestión de la infraestructura, facturando solo el tiempo de entrenamiento utilizado.
Además, los modelos personalizados de Amazon Nova pueden integrarse en Amazon Bedrock mediante la API createcustommodel, ofreciendo compatibilidad con herramientas nativas como Amazon Bedrock Knowledge Bases, Guardrails y Agents.
Un ejemplo de aplicación empresarial mostró cómo la personalización del modelo Amazon Nova Micro logró optimizar funciones estructuradas específicas, mejorando en un 81% la puntuación F1 y hasta un 42% en métricas ROUGE. Esto promete una mayor eficiencia en aplicaciones comerciales como asistentes de soporte al cliente y automatización de flujos de trabajo.
Con la implementación de técnicas como DPO, se espera que esta nueva tecnología transforme la manera en que las empresas personalizan y optimizan sus modelos de IA, haciendo estas capacidades avanzadas más accesibles para organizaciones de diferentes sectores.
