En el ámbito de la inteligencia artificial generativa, la implementación de características que faciliten el uso de herramientas externas está ganando una relevancia creciente. Amazon ha desarrollado una innovadora funcionalidad para su modelo de lenguaje, Amazon Nova, que permite a los desarrolladores controlar de manera precisa cuándo y cómo se emplean estas herramientas, eliminando la dependencia de la ingeniería de prompts y asegurando que el modelo siga las configuraciones preestablecidas.
La función de «tool choice» de Amazon Nova permite seleccionar automáticamente la herramienta más adecuada para responder a las consultas de los usuarios. Por ejemplo, si se realiza una pregunta sobre el clima en Seattle, el modelo elegirá el API del clima pertinente para ofrecer la respuesta más precisa posible. Este enfoque pone el énfasis en la selección de la herramienta y sus parámetros, relegando la ejecución de funciones externas a la aplicación o al desarrollador correspondiente.
La nueva API ofrece tres opciones para la elección de herramientas: «Any», que garantiza que al menos se seleccionará una herramienta disponible; «Tool», que obliga al modelo a utilizar una herramienta específica solicitada, y «Auto», que deja que el modelo decida cuándo emplear una herramienta, pudiendo incorporar un proceso de razonamiento en la respuesta.
Entre los casos de uso más destacados se encuentra la generación de salidas estructuradas, que requiere que Amazon Nova utilice una herramienta específica para garantizar que las respuestas cumplan con esquemas JSON predefinidos. Esto es crucial para que las aplicaciones posteriores procesen eficazmente las salidas generadas. Por ejemplo, en un sitio web de recetas, Amazon Nova podría extraer de forma estructurada información sobre ingredientes, tiempos de cocción y pasos de preparación.
Otro escenario común es la selección de endpoints de API, donde se permite que el modelo elija una herramienta de entre varias opciones disponibles, garantizando así que, sin importar la consulta del usuario, se utilice la herramienta más adecuada. Este enfoque resulta especialmente útil para obtener productos disponibles o para clarificar dudas a través de consultas adicionales.
La opción «auto» es la preferida por defecto y permite que el modelo responda texto directamente al usuario si considera que no necesita una herramienta. En caso de seleccionar una herramienta, devolverá tanto el bloque de la herramienta como un bloque de texto explicativo adicional.
Para optimizar estas interacciones, es esencial seguir buenas prácticas, tales como el uso de parámetros de decodificación ávida y asegurar que la descripción y el nombre de las herramientas sean claros y precisos. Con estas nuevas funcionalidades, Amazon Nova pretende mejorar la eficacia y versatilidad de las aplicaciones impulsadas por inteligencia artificial generativa, llevando a los desarrolladores un paso más allá en la automatización inteligente y en la mejora de la experiencia del usuario final.
