Las organizaciones de todos los tamaños están acelerando la implementación de IA generativa para impulsar la eficiencia general y reducir costos en sus negocios. Sin embargo, como ocurre con cualquier nueva tecnología, el despliegue generalmente conlleva barreras que pueden retrasar el progreso y los plazos de implementación.
El último informe sobre la madurez de la IA de LXT, basado en las opiniones de 315 ejecutivos que trabajan en inteligencia artificial, revela los principales cuellos de botella que enfrentan las empresas al desplegar IA generativa. Estos incluyen:
– Preocupaciones de seguridad y privacidad
– Precisión de los resultados de la solución
– Disponibilidad de datos de entrenamiento de calidad
– Afinamiento del modelo fundamental
– Ajuste de los prompts
– Precisión de los modelos fundamentales
Solo el 1% de los encuestados afirmó que no experimentan ningún obstáculo con sus implementaciones de IA generativa.
El 39% de los encuestados destacó que las preocupaciones de seguridad y privacidad son su principal barrera al implementar IA generativa. Dado que estos modelos requieren una gran cantidad de datos de entrenamiento, las empresas deben asegurar una gobernanza de datos adecuada para evitar la exposición de información personal y sensible, como nombres, direcciones, detalles de contacto e incluso registros médicos. Las preocupaciones adicionales incluyen ataques adversarios que podrían hacer que los modelos generen resultados inexactos o dañinos y la generación de contenido que imite propiedad intelectual, lo cual podría ocasionar problemas legales.
Para mitigar estos riesgos, las empresas pueden obtener el consentimiento de las personas cuyos datos se utilizan para entrenar los modelos de IA generativa, similar a cómo se obtiene el consentimiento al usar fotos de individuos en sitios web. También se deben implementar procedimientos adicionales de gobernanza de datos, incluyendo políticas de retención de datos y la redacción de información personal identificable (PII) para mantener la confidencialidad individual.
Casi a la par con las preocupaciones de seguridad y privacidad, el 38% de los encuestados indicó que la precisión de los resultados de la IA generativa es un desafío principal. La IA generativa puede agilizar enormemente los procesos empresariales, pero necesita mecanismos de control para eliminar errores, asegurar la precisión y mantener la confianza del cliente. Las empresas deben tener claridad absoluta sobre la fuente y la precisión de los datos utilizados para entrenar sus modelos y mantener documentación sobre estas fuentes. Los procesos de evaluación humana también son cruciales para reducir sesgos en los datos y asegurar operaciones precisas de los modelos generativos.
El 36% de los encuestados señaló que la disponibilidad de datos de entrenamiento de alta calidad es un reto. Los datos de calidad son esenciales para la fiabilidad, el rendimiento y la precisión de los modelos de IA. Se ha destacado en la prensa reciente que el texto escrito por humanos podría agotarse para el entrenamiento de chatbots en poco tiempo. Esto impide a las empresas escalar de manera eficiente sus modelos, lo que afecta directamente la calidad de los resultados.
La afinación del modelo fundamental, que incluye la mejora de modelos preentrenados y el uso de técnicas como el aprendizaje por refuerzo y el preentrenamiento específico del dominio, es un reto citado por el 32% de los ejecutivos. Requiere una comprensión profunda de los grandes modelos de fundamentos y configuraciones de entrenamiento avanzadas.
El ajuste de los prompts, una técnica para afinar las respuestas del modelo sin reentrenar completamente su estructura, presenta desafíos para el 24% de los encuestados. Esta técnica es útil para mantener la integridad del modelo a través de distintas tareas pero requiere una evaluación cuidadosa del caso de uso específico.
Finalmente, el 23% de los encuestados afirmó que la precisión de los modelos fundamentales es un reto. Estos modelos preentrenados son valiosos para una variedad de tareas pero presentan problemas como la falta de precisión y sesgo si no son entrenados con conjuntos de datos diversos.
Con el campo de la IA en constante evolución, mantenerse al día con las tendencias y desarrollos es esencial para el éxito en las iniciativas de IA. El informe «Path to AI Maturity» de LXT proporciona una visión actual del estado de madurez de la IA en las empresas, la inversión realizada, los casos de uso principales de la IA generativa y mucho más.
vía: AI Accelerator Institute
