Amazon ha anunciado la disponibilidad general de nuevos filtros de contenido de imagen dentro de su herramienta Amazon Bedrock Guardrails, diseñada para moderar tanto el contenido de texto como de imagen en aplicaciones de inteligencia artificial generativa. Esta actualización representa un avance significativo respecto a las capacidades existentes, que solo permitían la moderación de contenido textual, y ahora permite controlar de manera más efectiva los insumos y las respuestas generadas por IA.
Tero Hottinen, Vicepresidente de Alianzas Estratégicas en KONE, ha destacado que Amazon Bedrock Guardrails podría desempeñar un papel crucial en la protección de aplicaciones de IA generativa, especialmente en la verificación de relevancia y contexto. KONE planea incorporar esta tecnología en sus aplicaciones, utilizando estas salvaguardias para mejorar la gestión de contenido multimodal en el diagnóstico y análisis de sus productos a través de diagramas de diseño y manuales.
La nueva funcionalidad permite a los usuarios establecer guardrails configurables para bloquear entradas y salidas perjudiciales. La herramienta ofrece seis políticas distintas, incluyendo filtros de contenido y detección de «alucinaciones» del modelo, lo que ayuda a eliminar hasta el 88% del contenido multimodal dañino. Los desarrolladores ahora pueden combinar la moderación de imágenes y texto, estableciendo umbrales de contenido que van de bajo a alto.
Este avance es particularmente beneficioso para organizaciones de sectores como la salud, manufactura, servicios financieros, medios de comunicación y educación, gracias a su implementación en varias regiones de AWS, como US East, US West, Europa y Asia-Pacífico. Permite mejorar la seguridad de marca sin necesidad de construir salvaguardias personalizadas o realizar evaluaciones manuales propensas a errores.
Para comenzar a utilizar estos filtros de contenido de imagen, los usuarios deben crear un guardrail en la consola de gestión de AWS y configurar los filtros deseados. También pueden optar por usar el API independiente ApplyGuardrail para validar contenido en distintos flujos de aplicación.
Esta herramienta representa un avance esencial hacia un uso más responsable y seguro de la inteligencia artificial, potenciando la construcción de aplicaciones que cumplan con las políticas de IA responsable que cada organización decida implementar.
