Modelos GPT OSS de OpenAI Ahora Disponibles en SageMaker JumpStart

Elena Digital López

OpenAI ha lanzado al mercado sus nuevos modelos de peso abierto, GPT OSS, con los modelos específicos gpt-oss-120b y gpt-oss-20b, ahora disponibles a través de Amazon SageMaker JumpStart. Este avance tecnológico permite a los desarrolladores y empresas implementar y escalar ideas de inteligencia artificial generativa en la plataforma de Amazon Web Services (AWS) de manera eficiente y responsable.

Los modelos GPT OSS se destacan por su eficacia en tareas de programación, análisis científico y razonamiento matemático. Cuentan con una ventana de contexto de 128K y niveles de razonamiento ajustables, lo que permite a los usuarios personalizar el rendimiento de los modelos de acuerdo con sus necesidades específicas. Además, integran la capacidad de usar herramientas externas y pueden ser aplicados en flujos de trabajo de inteligencia artificial a través de frameworks como Strands Agents. Gracias a su capacidad de salida en cadena de pensamientos, los usuarios pueden obtener una visión detallada del proceso de razonamiento del modelo.

SageMaker JumpStart proporciona un servicio completamente gestionado que incluye modelos de fundación de vanguardia para una amplia variedad de aplicaciones, como la redacción de contenido, generación de código y clasificación. La plataforma ofrece acceso a un extenso catálogo de modelos preentrenados, lo que simplifica su despliegue y acelera el desarrollo de aplicaciones de aprendizaje automático.

Los usuarios pueden descubrir y desplegar estos modelos desde Amazon SageMaker Studio o a través del SDK de Python de SageMaker. Además, las funciones de Amazon SageMaker, como Pipelines y Debugger, maximizan el rendimiento del modelo y optimizan el control de operaciones de aprendizaje automático dentro de un entorno seguro y eficiente de AWS.

Los modelos GPT OSS están disponibles en varias regiones de AWS, incluidas US East (Ohio, N. Virginia) y Asia Pacífico (Mumbai, Tokio). Para acceder a estos modelos, los usuarios deben disponer de una cuenta de AWS, un rol de IAM para la gestión de SageMaker y tener acceso a SageMaker Studio o a un entorno de desarrollo interactivo.

El despliegue del modelo gpt-oss-120b requiere seguir una serie de pasos en SageMaker Studio o mediante el SDK de Python. Estos pasos incluyen definir el nombre del endpoint, especificar el número de instancias y seleccionar el tipo de instancia con GPU recomendada para asegurar un rendimiento óptimo.

OpenAI ha integrado un nuevo sistema de búsqueda en la web a través de EXA, una API de búsqueda basada en significados, que enriquece las respuestas de los modelos con información actualizada. Los usuarios pueden acceder a este servicio obteniendo una clave API de EXA y configurándola en su entorno de despliegue.

Para evitar cargos adicionales, se recomienda a los usuarios eliminar los recursos creados tras utilizar el modelo. Con esta oferta, OpenAI reafirma su compromiso con la accesibilidad y la potencia de la inteligencia artificial en entornos empresariales, impulsando la innovación en diversos sectores.

Scroll al inicio