En un movimiento estratégico para afrontar los desafíos propios del uso de modelos de inteligencia artificial generativa, Amazon Web Services (AWS) ha desvelado la disponibilidad general de Amazon Bedrock Guardrails. Este innovador servicio se presenta como una solución para que las empresas puedan implementar medidas de seguridad personalizadas en sus aplicaciones de IA generativa, asegurando así que estas se ajusten a las políticas de inteligencia artificial responsable de cada organización.
La inteligencia artificial generativa tiene la capacidad de crear contenido sobre una amplia variedad de temas, pero su uso también presenta problemas significativos. Entre ellos, se encuentran mantener la relevancia del contenido, evitar la generación de información nociva, proteger datos sensibles y mitigar las llamadas «alucinaciones», en las que el modelo puede producir información incorrecta o engañosa. Aunque Amazon Bedrock ya incorpora protecciones específicas para cada modelo, estas no siempre satisfacen las exigencias únicas de cada entidad.
A menudo, los desarrolladores se ven en la necesidad de implementar controles adicionales para garantizar la seguridad y privacidad de sus aplicaciones, especialmente cuando se utilizan diferentes modelos de fundación para diversos casos de uso. Asegurar salvaguardias homogéneas es esencial para acelerar los ciclos de desarrollo y promover un enfoque uniforme hacia la inteligencia artificial responsable.
Con el objetivo de superar estos retos, AWS ha lanzado Amazon Bedrock Guardrails. Desde abril de 2024, este recurso permitirá a los desarrolladores establecer salvaguardias personalizadas que se ajusten a variadas necesidades y sean aplicables a una gran variedad de modelos de fundación. Esto no solo mejora la experiencia de uso sino que también estandariza los controles de seguridad.
Entre las características más destacadas de Amazon Bedrock Guardrails se encuentra la integración del API ApplyGuardrail. Este recurso facilita la evaluación de las entradas del usuario y las respuestas del modelo, incluyendo la posibilidad de aplicarlo a modelos personalizados y de terceros, incluyendo aquellos fuera del entorno Amazon Bedrock. El API se puede integrar en arquitecturas de IA generativa como modelos de lenguaje autoalojados o dentro de sistemas de Recuperación de Generación Aumentada.
Para demostrar el uso práctico de esta herramienta, AWS ha ofrecido un ejemplo de implementación de un guardrail que evita que un modelo proporcione asesoramiento fiduciario. Este ejemplo contempla políticas de filtrado que abordan temas prohibidos y verifican la coherencia contextual de las respuestas, asegurando que estén fundamentadas en información veraz y sean pertinentes para la consulta realizada por el usuario.
El debut de Amazon Bedrock Guardrails marca un progreso importante en la aplicación de medidas de seguridad dentro de las aplicaciones de IA generativa, permitiendo a las organizaciones integrar salvaguardias estandarizadas y profundamente probadas en sus flujos de trabajo, independientemente de los modelos empleados. Este avance refuerza el compromiso de AWS con la seguridad y la responsabilidad en el desarrollo de inteligencia artificial.
