Amazon ha anunciado una importante actualización en su servicio Amazon Bedrock, al permitir ahora la importación y despliegue de modelos Qwen, incluyendo las variantes Qwen2, Qwen2_VL y Qwen2_5_VL. Esta función permite a los usuarios importar pesos personalizados para estas arquitecturas y desplegarlos en un entorno sin servidor, lo que elimina la necesidad de gestionar la infraestructura subyacente.
La incorporación de los modelos Qwen 2 y 2.5 a la infraestructura de AWS representa un avance significativo en las capacidades de inteligencia artificial que ofrece la plataforma. Estos modelos abarcan desde modelos de lenguaje general, con una capacidad que va de 0.5 mil millones a 72 mil millones de parámetros, hasta variantes especializadas como Qwen 2.5-Coder, optimizado para la generación y finalización de código, y Qwen 2.5-VL, que ofrece capacidades avanzadas de procesamiento de imágenes y vídeos.
Con Amazon Bedrock, es posible integrar modelos personalizados con los modelos existentes mediante una API unificada, lo que facilita el acceso instantáneo a modelos personalizados y acelera el desarrollo de aplicaciones de inteligencia artificial generativa. Esta función ya está disponible en varias regiones, incluidas Estados Unidos y Europa.
Un uso destacado de Qwen 2.5 es como asistente de programación. Su variante Qwen2.5-Coder ha demostrado igualar la capacidad de otros modelos, al ofrecer soporte para más de 90 lenguajes de programación y sobresalir en la generación y depuración de código. Mientras tanto, Qwen 2.5-VL combina comprensión visual y de lenguaje, permitiendo al modelo reconocer y describir objetos en imágenes, analizar gráficos y extraer texto.
Para utilizar los modelos Qwen a través de Amazon Bedrock, los interesados deben tener una cuenta activa de AWS, un bucket de Amazon S3 para almacenar los archivos de los modelos y los permisos necesarios para realizar importaciones. Aunque el proceso de importación no tiene costo, Amazon Bedrock cobra por el uso de inferencia, calculado en incrementos de cinco minutos. Este costo depende del tamaño y el tiempo de actividad de los modelos, así como de la región y las especificaciones del hardware.
Se recomienda a los usuarios eliminar los modelos importados y los archivos innecesarios del bucket de S3 después de los experimentos para evitar costes adicionales. La integración con modelos potentes como Qwen 2.5 ofrece a las organizaciones una infraestructura optimizada para sus necesidades de inteligencia artificial, permitiéndoles concentrarse en el desarrollo de aplicaciones sin preocuparse por la gestión de la infraestructura tecnológica.
