Las reuniones desempeñan un papel vital en la coordinación de proyectos y la toma de decisiones en las organizaciones. No obstante, capturar y estructurar los puntos clave de estas conversaciones sigue siendo un desafío debido a la ineficiencia de los métodos manuales, que suelen ser poco precisos y propensos a omisiones.
Con el avance en los modelos de lenguaje de gran tamaño (LLMs, por sus siglas en inglés), como los de la familia Amazon Nova, se vislumbra una solución prometedora. Estos modelos, disponibles a través de Amazon Bedrock, convierten transcripciones no estructuradas en resúmenes y listas organizadas de acciones. Esta capacidad es especialmente beneficiosa en sectores como la gestión de proyectos, atención al cliente, y cumplimiento legal.
Recientemente evaluados, los modelos Amazon Nova ofrecen la capacidad de resumir reuniones y extraer acciones clave de manera efectiva, gracias a su aptitud para comprender contextos y establecer relaciones temáticas. Estos modelos introducidos en AWS re:Invent en 2024, están optimizados en cuatro niveles: Nova Micro, Nova Lite, Nova Pro y Nova Premier, cada uno diseñado para aplicaciones específicas en entornos seguros y a costos competitivos.
Un enfoque destacado es la técnica de ingeniería de prompts, que permite personalizar el comportamiento del modelo sin necesidad de un reentrenamiento intensivo. Este método, más eficiente que la afinación tradicional, involucra el uso de consultas elaboradas que guían al modelo en la generación de resultados específicos del dominio.
La solución se enfoca en dos tareas principales: la elaboración de resúmenes y la extracción de acciones. La primera genera sumarios que condensan los puntos discutidos y decisiones tomadas, mientras que la segunda crea listas de tareas concretas derivadas de las conversaciones.
Para evaluar su rendimiento, se usaron muestras del conjunto QMSum. El modelo Nova Premier sobresalió en fidelidad, aunque otros modelos del grupo también mostraron tiempos de procesamiento eficientes.
La evaluación de salidas generadas implica retos, ya que las métricas tradicionales pueden no lograr capturar la exactitud y coherencia necesarias. Así, se ha comenzado a usar un modelo LLM como juez, permitiendo una evaluación automatizada sobre criterios definidos.
Los resultados muestran un patrón claro donde el rendimiento y la latencia son equilibrados, destacando la familia Nova como una opción atractiva para empresas con grandes volúmenes de datos de reuniones.
En síntesis, la combinación de ingeniería de prompts y los modelos de Amazon Nova optimiza la generación de resúmenes y listas de acciones. Esta mejora en la latencia, costo y precisión es crucial para la automatización a gran escala, consolidando a Amazon Nova como una solución ideal para perfeccionar la gestión de reuniones empresariales.
