Fiddler AI, una empresa innovadora en el campo de la observabilidad de inteligencia artificial (IA) y la seguridad para modelos de lenguaje de gran tamaño (LLM) y operaciones de aprendizaje automático (MLOps), se compromete a transformar el mundo en un lugar mejor. Durante el reciente Generative AI Summit en Washington D.C., Nick Nolan, gerente de ingeniería de soluciones de Fiddler AI, compartió cómo la empresa está trabajando para cumplir esta misión.
La compañía centra sus esfuerzos en construir confianza en los sistemas de IA, concentrándose en dos áreas fundamentales: apoyar a los equipos de IA en las empresas en el desarrollo de aplicaciones de IA responsables, y asegurar que los usuarios reciban respuestas justas, seguras y confiables. Con el avance de la IA, especialmente en la generación de contenido, se anticipa la creación de políticas más estrictas para regular la gobernanza, el riesgo y el cumplimiento, protegiendo a los consumidores de resultados dañinos o sesgados.
Fiddler AI aspira a guiar a las empresas hacia el uso responsable de la IA desde las etapas iniciales hasta la madurez de sus prácticas. Para lograrlo, la empresa se enfoca en la observabilidad en tres áreas principales: monitoreo, seguridad y gobernanza. La plataforma de Fiddler permite a las empresas monitorear una amplia gama de métricas de LLM y ML, generando alertas cuando estas descienden por debajo de un umbral establecido. Además, proporciona evidencia de auditoría esencial para cumplir con requisitos regulatorios.
Con la rápida adopción de los LLM, las empresas enfrentan nuevos desafíos, como la necesidad de monitorear estos modelos en entornos reales. La plataforma de Fiddler aborda este desafío con su servicio de confianza y la solución Guardrails, que ofrece tiempos de respuesta inferiores a 100 milisegundos y puede ser implementada de manera segura en los entornos de los clientes.
En términos de prácticas responsables de IA, Fiddler AI se dedica a monitorear continuamente los modelos en busca de sesgos e inequidades, ofreciendo alertas en tiempo real ante la detección de comportamientos sesgados. Su plataforma genera automáticamente evidencia de auditoría para simplificar el cumplimiento de normativas regulatorias.
Un caso destacado del impacto positivo de Fiddler es su colaboración con Integral Ad Science (IAS), en la cual su plataforma mejoró la supervisión de modelos de aprendizaje automático y facilitó el cumplimiento de normativas regulatorias, reduciendo costos de monitoreo y acelerando la velocidad de lanzamiento de productos.
Con el creciente enfoque en la privacidad de datos, Fiddler ha implementado un marco de seguridad robusto para asegurar que su plataforma de observabilidad esté alineada con las regulaciones de protección de datos. La empresa asegura que todas las interacciones y datos se gestionen conforme a las leyes de privacidad vigentes y estándares industriales.
Mirando hacia el futuro, Fiddler AI planea expandir su liderazgo en el ámbito de la observabilidad de IA, enfocándose en el desarrollo de capacidades avanzadas y recursos educativos que promuevan una gobernanza efectiva de IA. Su objetivo es ayudar a las empresas a implementar modelos de IA que no solo generen valor comercial, sino que también sean responsables y equitativos para todos.
