En un esfuerzo por mejorar la eficiencia y rapidez en sus operaciones financieras, Amazon ha lanzado un nuevo asistente de chat basado en inteligencia artificial generativa, desarrollado en su plataforma Amazon Bedrock. Esta innovadora herramienta está diseñada para optimizar el tiempo de respuesta a las consultas de sus clientes, particularmente en las áreas de Cuentas por Pagar y Cuentas por Cobrar.
Antes de la implementación de este asistente de IA, los analistas de Amazon enfrentaban un proceso largo y complicado cada vez que recibían preguntas de clientes. Esto implicaba consultar a expertos en la materia y revisar extensos documentos de políticas, lo que podía llevar horas o incluso días en algunos casos. Esta demora se atribuye principalmente a la falta de acceso inmediato a la información requerida, un problema que afectaba especialmente a los empleados más nuevos en la compañía.
La introducción del asistente de chat representa un cambio significativo. Basado en un modelo de lenguaje grande (LLM), este sistema permite a los analistas obtener respuestas de manera rápida y eficiente dentro del mismo hilo de comunicación. Esta capacidad ha reducido considerablemente el tiempo necesario para resolver las consultas de los clientes, mejorando así la satisfacción del cliente y la eficiencia operativa.
El asistente Q&A está diseñado utilizando un pipeline de generación aumentada por recuperación (RAG) y se apoya en Amazon Bedrock. Este mecanismo recupera documentos pertinentes de una vasta base de conocimientos y emplea el modelo de lenguaje para producir respuestas precisas, utilizando la información obtenida. La infraestructura detrás de este sistema incluye una base de conocimientos gestionada por Amazon OpenSearch Service y un modelo de generación de respuestas proporcionado por Amazon Bedrock. Además, cuenta con múltiples componentes que aseguran la exactitud y seguridad de las respuestas, como un motor de validación que evita la emisión de información incorrecta.
La precisión es un aspecto clave del desempeño de este asistente. En las etapas iniciales del desarrollo, solo el 49% de las respuestas del asistente eran consideradas correctas por los expertos. No obstante, a través de la implementación de estrategias como la segmentación semántica de documentos y la mejora de los prompts, Amazon ha conseguido elevar la precisión al 86%.
Este desarrollo pone de manifiesto cómo Amazon está utilizando la inteligencia artificial generativa para mejorar sus procesos internos, registrando significativos avances en la disminución de tiempos de respuesta y el incremento de la eficiencia operativa. A través de un enfoque de mejora continua y evaluación iterativa, Amazon no solo resuelve desafíos comunes en el procesamiento automatizado del lenguaje, sino que también refuerza su liderazgo en la aplicación de inteligencia artificial en sus operaciones financieras.
