En un esfuerzo por expandir los límites de las capacidades de inteligencia artificial y procesamiento del lenguaje natural en aplicaciones empresariales, el equipo de Model Serving de Salesforce ha centrado sus esfuerzos en optimizar modelos de lenguaje de gran tamaño mediante la integración de soluciones avanzadas y colaboraciones estratégicas con líderes tecnológicos. Este equipo trabaja no solo con modelos de aprendizaje automático tradicionales, sino también con inteligencia artificial generativa, modelos de reconocimiento de voz y visión por computadora.
Uno de los pilares de su trabajo es la gestión completa de los modelos, que abarca desde la recopilación de requisitos hasta la optimización y escalado de los modelos de inteligencia artificial desarrollados por los equipos de ciencia de datos e investigación de Salesforce. Se hace un esfuerzo significativo por minimizar la latencia y maximizar el rendimiento de los modelos desplegados en múltiples regiones de AWS, lo que es crucial para satisfacer las demandas de un entorno empresarial que requiere respuestas rápidas y precisas.
Un desafío significativo para Salesforce es equilibrar la latencia y el rendimiento sin comprometer la eficiencia de costos. La protección de los datos del cliente y la seguridad y estabilidad del despliegue son también prioridades imprescindibles. Para enfrentar estos retos, el equipo ha desarrollado un marco de alojamiento en AWS que simplifica la gestión del ciclo de vida de los modelos. Utilizando Amazon SageMaker AI, disponen de herramientas para soportar inferencias distribuidas y múltiples despliegues de modelos, ayudando así a evitar cuellos de botella de memoria y a reducir los costos de hardware asociados. SageMaker también acelera el desarrollo al proporcionar contenedores de aprendizaje profundo, permitiendo a los ingenieros centrarse más en la optimización de los modelos que en la configuración de la infraestructura.
Para un uso óptimo, Salesforce ha adoptado prácticas de configuración recomendadas para el despliegue en SageMaker AI, lo que permite una mejor utilización de GPU y optimización en la asignación de memoria, resultando en un despliegue rápido y eficiente de modelos que cumplan con los requerimientos de alta disponibilidad y baja latencia.
El equipo de Salesforce se enfoca en un desarrollo modular, asegurando que las mejoras en un proyecto no afecten negativamente a otros. Están constantemente explorando técnicas de optimización e investigando nuevas tecnologías para mejorar la eficiencia en costos y energía. Colaboraciones continuas con la comunidad de código abierto y proveedores en la nube, como AWS, garantizan la incorporación de las últimas innovaciones en sus procesos.
Desde el inicio del ciclo de desarrollo, Salesforce establece estrictos estándares de seguridad, implementando mecanismos de encriptación y controles de acceso para proteger los datos del cliente. Mediante pruebas automatizadas, se aseguran de que la implementación rápida no comprometa la seguridad de los datos.
Con las crecientes necesidades de inteligencia artificial generativa de Salesforce, el equipo permanece comprometido con la constante mejora de su infraestructura de despliegue, explorando nuevas metodologías y tecnologías para mantenerse a la vanguardia en esta emocionante área de la inteligencia artificial.
