Fine-tuning en OpenAI: qué cambió desde GPT-3.5 Turbo

OpenAI abrió en marzo de 2024 el fine-tuning para gpt-3.5-turbo-0125, la última versión de GPT-3.5 Turbo antes de que la familia empezara a quedar atrás en el catálogo de la compañía. El servicio se sumó entonces a la personalización ya disponible para gpt-3.5-turbo-1106, gpt-3.5-turbo-0613, babbage-002 y davinci-002, y permitía a empresas y desarrolladores entrenar el modelo con sus propios ejemplos para que respondiera con el tono, el formato o el conocimiento específico que necesitaban.

Qué es el fine-tuning y para qué sirve

El fine-tuning consiste en coger un modelo ya entrenado y ajustarlo con un conjunto de ejemplos propios, en lugar de depender únicamente de instrucciones en el prompt. La ventaja frente a escribir prompts cada vez más largos es que el modelo «aprende» el patrón de respuesta deseado, lo que reduce tokens en cada petición y mejora la consistencia en tareas repetitivas, como clasificar tickets de soporte, generar respuestas con un estilo de marca concreto o extraer datos de documentos con un formato fijo.

No es la única vía para adaptar un modelo a necesidades específicas. La alternativa más usada hoy es RAG (recuperación aumentada de generación), que consulta una base de datos externa en el momento de responder en lugar de modificar los pesos del modelo. Elegir entre RAG, ajuste fino o un enfoque híbrido depende del tipo de tarea y de si lo que hace falta es conocimiento actualizado o un comportamiento consistente.

Una familia de modelos que ya ha quedado atrás

GPT-3.5 Turbo fue durante meses el modelo de referencia para quien buscaba un equilibrio entre coste y calidad, pero OpenAI ha ido sustituyendo esa generación por modelos más recientes y capaces dentro de su catálogo, en la misma línea que las empresas que hoy se plantean modelos GPT privados ya no parten de GPT-3.5 como base. El fine-tuning sigue siendo una práctica habitual, pero aplicada a modelos más nuevos: OpenAI documenta en cada momento qué modelos admiten personalización en su API, y esa lista cambia con cada generación.

El patrón no es exclusivo de OpenAI. Amazon, por ejemplo, permite hacer fine-tuning de modelos Meta Llama en SageMaker JumpStart, y la mayoría de proveedores cloud ofrecen ya alguna variante de ajuste fino para sus modelos abiertos. Para empresas que integran GPT en atención al cliente u otros flujos de trabajo, la elección entre modelo base y modelo ajustado sigue siendo una de las primeras decisiones técnicas del proyecto.

Preguntas frecuentes

¿Qué diferencia hay entre fine-tuning y RAG?

El fine-tuning ajusta los pesos del modelo con ejemplos propios para fijar un comportamiento o estilo. RAG consulta una base de datos externa en el momento de responder, sin tocar el modelo, lo que la hace mejor para información que cambia con frecuencia.

¿Sigue siendo relevante GPT-3.5 Turbo hoy?

OpenAI ha ido reemplazando esa familia de modelos por generaciones más recientes en su catálogo de API, así que los nuevos proyectos suelen partir de modelos más actuales en lugar de GPT-3.5.

¿Qué tareas se benefician más del fine-tuning?

Tareas repetitivas con un formato de salida fijo, como clasificar contenido, extraer datos estructurados de documentos o mantener un tono de marca consistente en respuestas automatizadas.

¿Solo OpenAI ofrece fine-tuning?

No. Proveedores como AWS SageMaker también permiten hacer fine-tuning de modelos abiertos como Meta Llama, y la mayoría de plataformas cloud de IA ofrecen alguna variante de ajuste fino.

Scroll al inicio