Yuewen Group, un destacado actor global en el ámbito de la literatura en línea y la propiedad intelectual, continúa extendiendo su influencia cultural al lograr una base de aproximadamente 260 millones de usuarios en más de 200 países y regiones mediante su plataforma internacional WebNovel. Esta expansión se debe, en gran parte, a sus esfuerzos por adaptar novelas chinas de alta calidad en películas y animaciones para mercados fuera de China.
En un movimiento reciente, la compañía ha comunicado la integración de la tecnología de Optimización de Prompts en Amazon Bedrock. Esta herramienta permite la mejora de los prompts, esencialmente las instrucciones dadas a los modelos de lenguaje, para diversos usos mediante una simple llamada a la API o un clic en la consola de Amazon Bedrock. Esta implementación es un avance crucial para mejorar la eficiencia de los modelos de lenguaje grande (LLMs) en tareas de procesamiento inteligente de texto dentro de la compañía.
Inicialmente, Yuewen Group desarrolló sus propios modelos de procesamiento de lenguaje natural, pero pronto enfrentó grandes desafíos debido a ciclos de desarrollo prolongados y actualizaciones lentas. Para superar estos obstáculos, adoptaron el modelo Claude 3.5 Sonnet de Anthropic en Amazon Bedrock, que ofrece avanzadas capacidades de comprensión y generación de texto, permitiendo a la empresa ejecutar múltiples tareas simultáneamente con una comprensión de contexto mejorada.
No obstante, la empresa se enfrentó a obstáculos significativos en la explotación total del potencial de los LLMs a causa de su falta de experiencia en ingeniería de prompts, lo que subrayó la necesidad de una optimización estratégica en este campo. La complejidad de evaluar la calidad de un prompt es uno de los principales retos, dado que su efectividad en generar respuestas depende de varios factores, como la arquitectura del modelo de lenguaje y los datos de entrenamiento. Además, la dependencia del contexto implica que un prompt efectivo en un contexto puede no serlo en otro, requiriendo ajustes sustanciales.
Con el aumento de las aplicaciones de LLMs, el número de prompts necesarios incrementa también, haciendo que la optimización manual sea cada vez más ardua. La optimización automática de prompts, impulsada por Amazon Bedrock, ofrece una solución eficaz al generar prompts de calidad adaptados a diferentes LLMs, ahorrando tiempo y esfuerzo en ingeniería de prompts manual. Gracias a esto, Yuewen Group ha mejorado significativamente la precisión en tareas analíticas de texto, alcanzando un 90% de precisión en la atribución de diálogos de personajes, lo que representa una mejora del 10% respecto a los modelos tradicionales de NLP.
Esta nueva tecnología ha revolucionado la ingeniería de prompts en la empresa, permitiendo completar tareas de manera más rápida y eficiente. Se han establecido buenas prácticas como el uso de prompts claros y precisos y la evitación de ejemplos excesivamente largos para maximizar la experiencia del usuario.
Con el continuo avance de la inteligencia artificial, herramientas como la optimización de prompts son fundamentales para que las empresas saquen el mayor partido posible de los modelos de lenguaje grande en sus operaciones. La experiencia de Yuewen Group ilustra cómo estas innovaciones pueden transformar aplicaciones en diversas industrias, ofreciendo ahorros significativos en tiempo y mejoras en el desempeño.
