La inteligencia artificial generativa ha emergido como una fuerza transformadora en el sector de la salud, especialmente en áreas como la gestión del cuidado y el compromiso del paciente. Esta tecnología está revolucionando la atención médica al permitir que los clínicos mejoren el cuidado a través de sistemas automatizados y herramientas de apoyo diagnóstico, ofreciendo sugerencias personalizadas y oportunas. Un estudio reciente señala que los estudiantes de medicina que utilizaron retroalimentación generada por modelos de lenguaje grande (LLM) en simulaciones clínicas mejoraron notablemente sus decisiones clínicas en comparación con quienes no la recibieron.
Los modelos de lenguaje grande son esenciales en los sistemas de IA generativa, ya que permiten interacciones altamente naturales. Estos modelos se aplican en distintos campos como facturación, diagnóstico, tratamiento e investigación, operando de manera autónoma bajo supervisión humana. Sin embargo, es crucial comprender los riesgos asociados y sus posibles efectos en la prestación de servicios, lo cual exige un enfoque integral y seguro para el desarrollo de aplicaciones de IA generativa.
Durante el diseño de estas aplicaciones en salud, es fundamental establecer políticas de sistema que guíen los insumos y resultados, ayudando a construir un sistema responsable. También es vital considerar riesgos potenciales como la confabulación —respuestas erróneas pero confiadas del modelo— y el sesgo, que podría aumentar desigualdades entre grupos.
La transparencia y la responsabilidad son clave en el desarrollo de aplicaciones de IA generativa. Documentar las fuentes de datos, decisiones de diseño y limitaciones mediante «fichas de modelo» facilita la evaluación del sistema y permite a los usuarios tomar decisiones informadas.
La seguridad debe integrarse en cada capa de diseño de estas aplicaciones para proteger la privacidad del paciente y la seguridad de los datos. Estas aplicaciones son vulnerables a ataques adversariales, como la inyección de prompts. Por ello, se recomienda realizar evaluaciones de riesgo y establecer salvaguardias que controlen las entradas y salidas del sistema.
En resumen, la IA generativa promete mejorar varios aspectos del cuidado de la salud, optimizando la calidad del servicio, la experiencia del paciente y la seguridad clínica. Al desarrollar aplicaciones de IA, es crucial considerar sistemáticamente sus limitaciones y establecer un marco de gobernanza que garantice la seguridad y confianza esperadas por los usuarios.
