Las aplicaciones de Recuperación y Generación Aumentada (RAG) han emergido como herramientas vitales en el campo de la inteligencia artificial generativa, aportando información contextual clave que eleva el rendimiento de diversas tareas. Sin embargo, la puesta en marcha de estas aplicaciones requiere un enfoque meticuloso en cuanto a la seguridad, especialmente al manejar datos sensibles como la información personal identificable (PII), la información de salud protegida (PHI) y otros datos confidenciales de tipo comercial. La correcta protección de estos datos es fundamental, dado que se integran en el flujo de los sistemas RAG. La omisión de estas medidas de seguridad puede acarrear riesgos graves, incluyendo brechas de datos que para organizaciones del sector salud, instituciones financieras y empresas que manejan información confidencial, podrían traducirse en violaciones de cumplimiento regulatorio y una notable pérdida de confianza por parte de sus clientes.
El desarrollo de un modelo de amenaza exhaustivo para estas aplicaciones de IA generativa es crucial para detectar posibles vulnerabilidades relacionadas con la fuga de datos sensibles, inyecciones de comandos y acceso no autorizado a datos. Para abordar estos desafíos, AWS ha puesto a disposición un conjunto de estrategias de seguridad para IA generativa, facilitando la creación de modelos de amenazas adecuados.
En este marco, Amazon Bedrock Knowledge Bases emerge como una solución que simplifica la gestión del flujo de trabajo RAG, permitiendo a las organizaciones proveer a los modelos y agentes básicos con información contextual obtenida de fuentes de datos privadas. Esto resulta en respuestas más precisas y adaptadas a necesidades específicas. Adicionalmente, Amazon Bedrock Guardrails posibilita la implementación de salvaguardas personalizadas para los casos de uso y políticas de IA responsable, asegurando la redacción de información sensible como PII para proteger la privacidad.
El flujo de trabajo de RAG se basa en dos pasos clave: la ingestión y la recuperación aumentada. Durante la ingestión, los datos no estructurados se preprocesan, transforman en documentos de texto y se dividen en fragmentos que son codificados y almacenados en un vector store, como Amazon OpenSearch Service. Posteriormente, en la fase de recuperación aumentada, una consulta del usuario se codifica y se emplea para realizar una búsqueda de similitud, permitiendo recuperar información semánticamente similar a la consulta original. No obstante, si los datos sensibles no son limpiados antes de la ingestión, existe el riesgo de que puedan ser revelados a usuarios no autorizados.
Para proteger sensiblemente esta información, se destacan dos patrones arquitectónicos: la redacción de datos a nivel de almacenamiento y el acceso basado en roles. Estos enfoques robustos ofrecen una protección eficaz de los datos sensibles cuando se construyen aplicaciones RAG mediante Amazon Bedrock Knowledge Bases. La redacción de datos implica identificar y borrar la información sensible antes de almacenar documentos, mientras que el acceso basado en roles controla el acceso a la información sensible de acuerdo con los roles y permisos de los usuarios, especialmente esencial en entorno como el de la salud donde es crucial distinguir entre roles administrativos y no administrativos.
En resumen, las aplicaciones de RAG representan un recurso invaluable para las organizaciones que buscan potenciar la eficacia de la IA generativa. Sin embargo, requieren una dedicación especial a la seguridad y la protección de datos sensibles. La implementación de estas estrategias no solo ayuda a mitigar riesgos, sino que también asegura la confianza de los clientes y el cumplimiento normativo.
