La implementación de agentes de inteligencia artificial en sectores regulados ha emergido como un desafío crucial en la industria tecnológica. Los riesgos de seguridad asociados con la libertad que poseen estos agentes al manejar datos sensibles y ejecutar transacciones son considerables. A diferencia del software convencional, los agentes de IA operan de manera autónoma, tomando decisiones para alcanzar objetivos al utilizar herramientas, acceder a información y adaptar su razonamiento durante las interacciones tanto con su entorno como con usuarios. Esta autonomía potencia a los agentes, pero también incrementa la preocupación por la seguridad.
Para abordar estos desafíos, se ha propuesto la creación de límites claros que definan las capacidades de los agentes de IA, determinando a qué pueden acceder, con qué pueden interactuar y qué impacto pueden tener en el mundo externo. Sin estas restricciones, los agentes podrían, por ejemplo, enviar correos electrónicos, acceder a bases de datos, ejecutar código o realizar transacciones financieras, exponiéndolos a amenazas como la exfiltración de datos o ataques de inyección.
Amazon ha dado un paso adelante en la gestión de estos riesgos mediante la introducción de un modelo de políticas que implementa límites de manera escalable sin obstaculizar la innovación. A través de Amazon Bedrock AgentCore, se presenta una capa de seguridad que intercepta todo el tráfico y aplica reglas deterministas. Este sistema ha sido probado en un agente de programación de citas en el ámbito de la salud, un área idónea para demostrar cómo las políticas pueden administrar datos sensibles de pacientes y mantener estrictas normas de acceso.
La importancia de una ejecución de políticas externas es evidente al considerar la complejidad de asegurar agentes de IA en comparación con el software tradicional. Las mismas capacidades que otorgan a los agentes su poder, como el razonamiento abierto y el uso flexible de herramientas, también pueden conducir a comportamientos impredecibles y vulnerabilidades.
Amazon Bedrock AgentCore emplea el lenguaje Cedar para la creación de políticas de autorización que son eficientes y auditables. Dichas políticas identifican un principal (quién), una acción (qué) y un recurso (dónde), acompañadas de condiciones específicas para determinar el cuándo. Esto permite distinguir claramente entre las capacidades del agente y las políticas de seguridad, facilitando un desarrollo más seguro y rápido.
En el caso del agente de programación de citas en el sector de la salud, se establecen políticas que garantizan que los pacientes solo puedan modificar sus propios registros y no acceder a la información de otros, protegiendo así los datos sensibles. Además, se implementan controles que impiden realizar operaciones fuera de los horarios permitidos, asegurando un sistema más seguro.
Amazon Bedrock AgentCore no solo facilita la implementación de políticas, sino que permite validar su aplicación antes de que afecten el tráfico en producción, garantizando decisiones de acceso coherentes y predecibles. Este enfoque contribuye a crear un entorno robusto y seguro para la implementación de agentes de inteligencia artificial en sectores regulados, evidenciando el compromiso con la seguridad y la confianza en estos sistemas avanzados.
