Amazon lanza Bedrock para IA generativa en la nube de AWS

Amazon presentó Bedrock en abril de 2023 como su apuesta para que empresas construyan aplicaciones de inteligencia artificial (IA) generativa en AWS sin entrenar modelos desde cero. El servicio funciona como una capa de acceso a modelos fundacionales de terceros, con la opción de ajustarlos a los datos internos de cada organización dentro del propio entorno de la nube.

Qué modelos incluye Bedrock

En su lanzamiento, Bedrock ofrecía acceso a modelos de Anthropic (Claude), AI21 Labs (Jurassic) y Stability AI (Stable Diffusion), además de los modelos Titan de la propia Amazon, dos grandes modelos de lenguaje (LLM, en inglés large language model) orientados a tareas de texto e incrustaciones semánticas (embeddings). Plataformas como Pega fueron de los primeros en integrarse, con la intención de añadir capacidades de IA generativa a sus productos para clientes empresariales.

El planteamiento es que las organizaciones tomen uno de estos modelos preentrenados y lo personalicen mediante fine-tuning con sus documentos, bases de conocimiento o historial de conversaciones. Amazon insiste en que esos datos no alimentan los modelos base ni el entrenamiento global de los socios.

Cómo funciona en la práctica

Bedrock expone los modelos a través de API, lo que permite integrarlos en aplicaciones existentes con pocas líneas de código. Los desarrolladores pueden cambiar de modelo sin reescribir la lógica, y la facturación se consolida dentro de la cuenta AWS del cliente. El enfoque de Amazon es diferencial frente a Azure OpenAI Service o Google Vertex AI: en lugar de apostar por un único proveedor de modelos, construye un catálogo con varias opciones, lo que da más flexibilidad a quienes tienen requisitos estrictos de cumplimiento normativo. Las tensiones regulatorias en Europa en torno a la Ley de IA también condicionan cómo este tipo de servicios podrán operar en el mercado comunitario.

La demanda de cómputo para IA es tan intensa que los centros de datos de los grandes proveedores cloud están revisando su modelo energético para sostener estas cargas de trabajo.

CodeWhisperer, el asistente de código de AWS

Junto a Bedrock, Amazon presentó CodeWhisperer en disponibilidad general. El asistente funciona dentro del entorno de desarrollo y sugiere bloques de código a partir de comentarios en lenguaje natural o código parcial. Admite Python, Java, JavaScript, TypeScript y C#, entre otros lenguajes. A diferencia de GitHub Copilot, incluye un análisis de similitud con código con licencia abierta para avisar al desarrollador cuando las sugerencias puedan tener implicaciones de licencia.

AWS frente a Azure y Google en IA generativa

El lanzamiento llegó semanas después de que Microsoft ampliara Azure OpenAI Service con GPT-4 y de que Google presentara Vertex AI con PaLM. Los tres grandes proveedores cloud compiten para ser la infraestructura de referencia en aplicaciones de IA generativa a escala empresarial. La propuesta de Amazon se distingue en la flexibilidad de modelos y en el aislamiento de datos, dos puntos que las empresas con requisitos de cumplimiento normativo suelen priorizar. Según el vicepresidente de AWS Swami Sivasubramanian, la transición de la IA empresarial del piloto a producción real es el reto central que Bedrock busca resolver.

Preguntas frecuentes sobre Amazon Bedrock

¿Qué diferencia a Bedrock de usar directamente los modelos de Anthropic o AI21?

Bedrock centraliza el acceso a varios modelos dentro del entorno de AWS, con facturación unificada, control de acceso mediante IAM y sin que los datos de las consultas salgan de la infraestructura del cliente. Contratar directamente con Anthropic o AI21 implica gestionar claves externas y asumir que las consultas pasan por sistemas ajenos a AWS.

¿Qué datos se necesitan para hacer fine-tuning en Bedrock?

El fine-tuning requiere pares de entrada-salida o documentos internos almacenados en Amazon S3. Amazon garantiza que esos datos no se usan para mejorar los modelos base ni para entrenar los modelos de sus socios, lo que es relevante para organizaciones con información sensible.

¿Bedrock incluye modelos de código abierto?

En la versión inicial, Bedrock incluía solo los modelos de los socios comerciales (Anthropic, AI21, Stability AI) y los Titan de Amazon. La integración con modelos de código abierto de Hugging Face se gestionaba a través de SageMaker JumpStart, un servicio diferente dentro de AWS.

¿Cuánto cuesta usar Amazon Bedrock?

La facturación se basa en el número de tokens procesados, con precios variables según el modelo. En el momento del lanzamiento, los detalles de pricing estaban limitados a la fase de preview privada, pero Amazon confirmó que no habría cuotas mínimas ni compromisos de pago por adelantado, siguiendo el modelo de pago por uso habitual de AWS.

Scroll al inicio