Google añadió el 13 de diciembre de 2023 Gemini Pro a Vertex AI en vista previa pública, poco más de una semana después de presentar la familia Gemini. El modelo de nivel intermedio de la familia, por debajo de Ultra y por encima de Nano, llega a la plataforma gestionada de Google con soporte para texto e imágenes, lo que lo coloca en el mismo territorio que GPT-4 con Vision de OpenAI. La diferencia de precio es notable: Google anunció tarifas de entrada reducidas para atraer a desarrolladores que hasta entonces usaban la API de OpenAI.
Qué puede hacer Gemini Pro en Vertex AI
Gemini Pro procesa texto e imágenes en la misma petición. Un desarrollador puede enviarle una imagen de un gráfico y pedir un análisis en texto, o combinar instrucciones escritas con imágenes de referencia para tareas más complejas. En el momento del lanzamiento en Vertex AI, el modelo tamaño Pro era el único disponible en la plataforma; Gemini Ultra, según Google, estaría disponible en versiones posteriores para clientes enterprise con acceso anticipado.
La integración con Vertex AI permite conectar Gemini Pro a fuentes de datos externas mediante extensiones y llamadas a APIs, lo que facilita construir aplicaciones que vayan más allá del chat: sistemas de extracción de información de documentos, pipelines de análisis visual o asistentes de código con contexto de repositorio. Vertex AI gestiona el escalado, el registro y el control de acceso, lo que reduce la carga de infraestructura para equipos que no quieren administrar servidores de inferencia propios.
Precios y accesibilidad
Google fijó la tarifa de Gemini Pro para texto en 0,00025 dólares por carácter de entrada y 0,0005 por carácter de salida, a lo que se suman tarifas adicionales para entradas con imagen. Los precios estaban pensados para ser competitivos respecto a los de GPT-4, que entonces costaba varios órdenes de magnitud más por token. Para contextos de más de 128.000 tokens (el límite de ventana de contexto de Gemini Pro en el lanzamiento), los precios se duplicában automáticamente.
Indemnización por outputs: una apuesta diferencial
Uno de los anuncios más llamativos de la actualización de Vertex AI fue la ampliación de la política de indemnización de Google. La compañía se compromete a defender a los clientes frente a reclamaciones de terceros por infracción de propiedad intelectual derivadas de los outputs de modelos como PaLM 2 e Imagen 2. La cobertura para la API de Gemini estaba planificada para cuando el modelo pasara de vista previa a disponibilidad general. En ese momento, ninguno de los grandes proveedores de IA en la nube ofreía una garantía similar de forma explícita, lo que daba a Google un argumento diferencial en ventas enterprise.
Vertex AI más allá de Gemini
Junto al lanzamiento de Gemini Pro, Google anunció mejoras en la integración de modelos de terceros en Vertex AI. Llama 2 de Meta y otros modelos de código abierto ya eran accesibles a través del Model Garden de la plataforma, lo que convierte a Vertex AI en un hub multi-modelo más que en una plataforma monovendedor. Esta dirección es consistente con el comportamiento de otros proveedores: la relación de Google con Anthropic añade otra capa a la estrategia de modelos múltiples del gigante californiano, que invierte en startups externas al tiempo que desarrolla sus propios modelos.
El mercado de LLMs en diciembre de 2023 era ya muy diferente al de un año antes. OpenAI dominaba la cuota de desarrolladores, pero la llegada de Gemini abría la posibilidad de que Google recuperara terreno. Microsoft, por su parte, apostaba por PHI 4 para demostrar que modelos pequeños pueden competir en tareas de razonamiento, lo que añadía presión a los modelos de tamaño medio como Gemini Pro.
Preguntas frecuentes sobre Gemini Pro en Vertex AI
¿Qué diferencia Gemini Pro de Gemini Ultra?
Gemini Ultra es el modelo de mayor tamaño y capacidad de la familia, orientado a tareas muy complejas. Gemini Pro es el modelo intermedio, más rápido y con menor coste por token, diseñado para la mayoría de casos de uso empresarial. En el lanzamiento de diciembre de 2023, solo Gemini Pro estaba disponible en Vertex AI; Ultra se anunció para una fase posterior.
¿Qué es Vertex AI?
La plataforma gestionada de machine learning de Google Cloud. Permite entrenar, desplegar y servir modelos de IA sin administrar la infraestructura subyacente. Incluye herramientas para fine-tuning, monitorización de modelos y acceso a un catálogo de modelos propios y de terceros (Model Garden).
¿Gemini Pro puede procesar imágenes?
Sí. Gemini Pro es un modelo multimodal que acepta tanto texto como imágenes en la misma petición. Esto lo coloca en la misma categoría que GPT-4 con Vision en cuanto a capacidades de entrada.
¿Qué cubre la indemnización de Google para Vertex AI?
Google ofrece defensa legal y compensación a clientes que reciban reclamaciones de terceros por infracción de propiedad intelectual en los outputs generados por PaLM 2 e Imagen 2. La cobertura para outputs de Gemini estaba planificada para cuando el modelo saliera de la fase de vista previa.
Fuente: Google Cloud Blog
