La inteligencia artificial generativa (GenAI) está transformando una variedad de industrias al agilizar operaciones y fomentar la innovación. Mientras que las interacciones textuales mediante chat con GenAI son comunes, su aplicación en el mundo real a menudo depende de datos estructurados para APIs, bases de datos y cargas de trabajo basadas en datos. La utilización de datos estructurados puede también mejorar la inteligencia conversacional, brindando salidas más precisas y aplicables. Sin embargo, un desafío constante es la imprevisibilidad inherente de los modelos de lenguaje de gran tamaño (LLMs), lo cual dificulta la producción constante de salidas estructuradas como JSON.
La principal complicación radica en que los datos de entrenamiento de los LLMs se centran principalmente en texto no estructurado, como artículos, libros y sitios web, con pocas muestras de formatos estructurados. Esto genera problemas de precisión en la generación de salidas JSON, fundamentales para una integración fluida en APIs y bases de datos. La habilidad de los modelos para reconocer tipos de datos y gestionar jerarquías complejas varía, lo que puede influir en la elección de un modelo específico.
Para mitigar estos desafíos, Amazon Bedrock, un servicio gestionado que proporciona acceso seguro a los mejores modelos de IA, introduce dos soluciones clave:
- Ingeniería de prompts: Un método sencillo que genera salidas estructuradas a través de prompts bien formulados.
- Uso de herramientas con la API Bedrock Converse: Un método avanzado que ofrece mejor control, consistencia e integración nativa de esquemas JSON.
Un ejemplo práctico de análisis de reseñas de clientes muestra cómo Bedrock puede generar salidas estructuradas, como puntuaciones de sentimientos, utilizando código Python simplificado. El proceso de ingeniería de prompts implica pasos claves como configurar el cliente Bedrock, crear un esquema JSON para las salidas estructuradas, formular un prompt con instrucciones claras, añadir datos de reseñas para analizar e invocar Bedrock para obtener la respuesta.
La API Converse de Amazon Bedrock permite conversaciones de múltiples turnos con modelos de IA generativa e integra el uso de herramientas. Esta funcionalidad apoya la integración directa del esquema JSON en las definiciones de herramientas, facilitando la alineación de las salidas con formatos predefinidos.
Pruebas exhaustivas realizadas en los modelos Claude de Anthropic revelaron que todos lograron más del 93% de éxito en la generación de respuestas estructuradas, siendo el uso de herramientas más efectivo que la ingeniería de prompts. Estos resultados, obtenidos bajo condiciones complejas, indican que futuras actualizaciones de los modelos seguirán mejorando su rendimiento.
En conclusión, se presentaron dos métodos para generar respuestas estructuradas con Amazon Bedrock: ingeniería de prompts y uso de herramientas. Cada método tiene sus propias ventajas y desventajas, así como aplicaciones específicas según las necesidades. La incorporación de datos estructurados es esencial para maximizar el potencial de la inteligencia artificial generativa en escenarios del mundo real, como APIs y trabajos basados en datos.
