GoDaddy, el gigante del registro de dominios y servicios de comercio electrónico, ha dado un nuevo paso hacia la innovación tecnológica con el desarrollo de un sofisticado sistema de inteligencia artificial generativa. Esta iniciativa, diseñada para optimizar la categorización de productos, promete ofrecer a sus más de 21 millones de clientes insights de negocio personalizados que hasta ahora solo estaban al alcance de grandes corporaciones.
El auge en el uso de modelos de lenguaje grandes (LLMs) en aplicaciones de inteligencia artificial ha sido notable, pero su implementación en entornos de producción presenta desafíos significativos, especialmente en términos de escalabilidad. Para enfrentar estos retos, GoDaddy ha optado por técnicas de inferencia por lotes, capaces de procesar múltiples solicitudes asíncronamente, incrementando así la eficiencia en el manejo de vastas cantidades de datos.
Este nuevo sistema, desarrollado en colaboración con el equipo del Generative AI Innovation Center, se apoya en Amazon Bedrock, utilizando un modelo de Meta Llama 2 para procesar datos de productos. La empresa enfrentaba la ardua tarea de categorizar cerca de seis millones de productos a partir de sus nombres. Los resultados iniciales no fueron óptimos: las categorías resultaban incompletas o incorrectas, generando un aumento en los costos operativos.
La solución propuesta sigue una serie de pasos secuenciales, comenzando por la transferencia de archivos JSONL a un bucket de S3, lo que activa funciones Lambda para el procesamiento por lotes. Estos procesos permiten leer los nombres de los productos y generar una categorización que se almacena para su posterior análisis. Todo ello, con estrictas medidas de seguridad integradas en los servicios de AWS para garantizar la confidencialidad y la integridad de los datos.
El nuevo sistema no solo mejora la precisión de las categorías, sino que ofrece un marco integral para generar insights valiosos para los clientes. Es compatible con varios modelos de LLM en Amazon Bedrock, lo que asegura flexibilidad y escalabilidad para futuras actualizaciones. Además, la implementación de técnicas de «n-packing», que agrupan múltiples nombres de productos en una sola consulta a la máquina, ha optimizado tanto la latencia como los costos, sugiriendo un potencial ahorro significativo para GoDaddy.
Con miras a mejorar aún más la calidad del servicio, la empresa planea expandir su base de datos de ejemplos verificados e implementar controles de calidad adicionales. Esta colaboración entre GoDaddy y el equipo de innovación en inteligencia artificial no solo busca transformar la experiencia del cliente, sino también democratizar el acceso a recursos de comercialización para emprendedores, permitiendo una operación más eficiente y aumentando la satisfacción del cliente a través de procesamientos más rápidos y precisos.
