Las empresas de diversos sectores están incrementando el uso de modelos de lenguaje grande (LLMs) para desarrollar aplicaciones de inteligencia artificial generativa, proporcionando experiencias innovadoras tanto a clientes como a empleados. Sin embargo, el proceso de desarrollar o ajustar estos modelos preentrenados requiere una cantidad significativa de recursos computacionales y esfuerzo en ingeniería, que aumenta conforme los modelos se vuelven más grandes y complejos. Esto representa un desafío económico y técnico para muchas organizaciones, que no disponen de la infraestructura necesaria ni de talento especializado.
Para hacer frente a estos desafíos, Amazon ha presentado una solución que utiliza Amazon SageMaker, un entorno gestionado para realizar trabajos de entrenamiento que permiten el ajuste fino del modelo Mixtral 8x7B. Este modelo, conocido por su arquitectura de «mezcla escasa de expertos» (SMoE), ha ganado popularidad por su eficiencia y rendimiento en diversas tareas. La arquitectura SMoE activa selectivamente solo un subconjunto de sus parámetros durante el entrenamiento, utilizando aproximadamente el 18.5% de sus parámetros totales durante la inferencia, optimizando así su eficiencia.
El proceso de ajuste fino de los modelos para tareas específicas es fundamental, ya que los LLMs generales carecen de información de dominio específica, lo que puede limitar su desempeño en aplicaciones concretas. Sin embargo, este proceso es intensivo en memoria y requiere una habilidad avanzada en inteligencia artificial.
La solución de Amazon emplea técnicas avanzadas de optimización de memoria para abordar estos problemas. Utilizando PyTorch Fully Sharded Data Parallel (FSDP) y Quantized Low Rank Adaptation (QLoRA), se logra optimizar el uso de memoria y reducir la huella de memoria del modelo. QLoRA congela los pesos originales del modelo y añade parámetros entrenables de baja jerarquía a las capas de transformadores, lo que permite comprimir el modelo y reducir la huella de memoria, facilitando así el entrenamiento y ajuste fino de los LLMs incluso en sistemas con recursos limitados.
Esta estrategia, junto con la infraestructura gestionada de SageMaker, ofrece una solución eficaz y rentable para que las empresas implementen modelos LLM personalizados. Las organizaciones pueden enfocarse en el desarrollo y perfeccionamiento del modelo aprovechando la infraestructura completamente gestionada de SageMaker, maximizando así el potencial de sus aplicaciones de inteligencia artificial generativa.
