El XVI Seminario de Biomedicina, Ética y Derechos Humanos, celebrado en la sede de la Fundación Ortega-Marañón, dedicó una parte importante de sus sesiones al papel de la inteligencia artificial (IA) en la medicina. Expertos de Telefónica, ASISA y administraciones sanitarias públicas coincidieron en que los beneficios son reales, pero advirtieron de riesgos que aún no tienen respuesta regulatoria clara.
El seminario, coordinado por Fernando Bandrés, Benjamín Herreros y Sara Bandrés, reûne desde hace años a profesionales de medicina, enfermeria, derecho, ciencias sociales y filosofía. La edición de 2023 incluyó ponentes como Richard Benjamins, responsable de IA en Telefónica; María Tormo, directora de Planificación de ASISA; y Mª Jesús Pascual, de Madrid Salud.
Índice
La IA, ocupa y preocupa a la Bioética
Para Fernando Bandrés, catedrático de Medicina Legal de la Universidad Complutense y director del Centro de Estudios Gregorio Marañón, los riesgos de la IA en el entorno sanitario son múltiples. Las principales amenazas, en su opinión, son la seguridad y gestión de los datos de salud, el uso de algoritmos opacos, la anonimización de registros clínicos y los riesgos de discriminación que pueden aparecer si los modelos se entrenan con datos sesgados.
Benjamín Herreros, director del Instituto de Ética Clínica Francisco Vallés, fue más directo: «La revolución más importante registrada en medicina desde Hipócrates es la que está produciendo la IA.» Según Herreros, cuando las decisiones médicas pasan a apoyarse en algoritmos y análisis masivo de datos, cambia el núcleo de la práctica clínica: la relación médico-paciente, la confianza y la responsabilidad sobre los errores.
María Tormo, de ASISA, planteó una analogía regulatoria que encontró eco en el foro. Los sistemas de IA aplicados a la salud deberían someterse a un proceso de validación similar al de los fármacos o los productos sanitarios. En la práctica, eso implicaría ensayos clínicos, criterios de seguridad y eficacia, y un registro oficial antes de que un algoritmo pueda influir en decisiones clínicas. «Estos procedimientos deberían trasladarse (con la necesaria adaptación) a la IA», dijo. Una postura que converge con el enfoque regulatorio que la UE está desarrollando con su Oficina de IA, aunque sin una equivalencia directa en la normativa sanitaria todavía.
La pregunta que Tormo dejó sobre la mesa fue sintética y sin respuesta resuelta: ¿¿qué ocurriría si falla la IA, o es que no fallará nunca?»
Beneficios de la IA en Medicina
No todo fue prevención de riesgos. Richard Benjamins, responsable de IA en Telefónica, presentó una visión más optimista sobre la combinación de IA y medicina. Según Benjamins, el sistema sanitario avanza hacia un escenario donde los profesionales de la salud tendrán un asistente de IA que procese la información de mayor carga cognitiva, liberando tiempo para el trato directo con el paciente.
Los beneficios que más consenso generaron en el foro fueron la reducción de la variabilidad clínica y la mejora en el diagnóstico mediante modelos de aprendizaje profundo entrenados con millones de imágenes o registros. La capacidad de los sistemas de IA para detectar patrones en grandes volúmenes de datos clínicos puede traducirse en diagnósticos más tempranos y más precisos en áreas como radiología, patología o genómica.
El mismo debate aparece en otros ámbitos de la salud mental: la IA en psicología genera tanto oportunidades de acceso a la atención como preguntas sobre los límites de lo que un algoritmo puede hacer en la relación terapéutica.
ChatGPT en la comunicación en salud
Mª Jesús Pascual, de la Unidad de Comunicación Interna de Madrid Salud, centró su intervención en el uso de ChatGPT en el campo de la comunicación sanitaria. Según Pascual, el riesgo más relevante es la generación de textos que contengan información falsa sobre salud. Si un sistema de IA genera contenido médico con errores y ese contenido circula como fiable, puede llevar a usuarios a tomar decisiones incorrectas: seguir tratamientos ineficaces, abandonar terapias establecidas o consumir sustancias nocivas.
El antidoto que propuso Pascual no es técnico, sino profesional: los sanitarios deben conocer las limitaciones de ChatGPT, mantenerse actualizados y no delegar la comunicación con el paciente a sistemas que no pueden verificar el contexto clínico individual.
Aun con esos riesgos, los expertos presentes coincidieron en que la investigación científica es el ámbito donde la IA generativa tiene mayor potencial. Procesar grandes volúmenes de literatura médica, detectar correlaciones en bases de datos clínicos o acelerar el descubrimiento de dianas terapéuticas son tareas para las que la combinación de LLM y datos bioestadisticos puede ser determinante.
Preguntas frecuentes
¿Qué es el XVI Seminario de Biomedicina, Ética y Derechos Humanos?
Una jornada anual multidisciplinar que reûne a expertos de medicina, derecho, filosofía y ciencias sociales para debatir sobre los retos éticos más relevantes en el ámbito sanitario. En 2023 se centró especialmente en IA y sus implicaciones clínicas.
¿Por qué piden los bióeticos que la IA médica pase por procesos similares a los de los fármacos?
Porque los algoritmos clínicos, como los medicamentos, pueden causar daño si no están validados. Sin un proceso riguroso de comprobación de eficacia y seguridad, un algoritmo con sesgos puede dar lugar a errores diagnósticos o decisiones terapéuticas incorrectas.
¿Cuáles son los principales riesgos de la IA en datos de salud?
Fuga de datos clínicos, uso de algoritmos opacos cuya lógica no se puede auditar, anonimización deficiente y el riesgo de discriminación si los modelos se entrenan con datos que sobrerrepresentan a ciertos grupos poblacionales.
¿Puede ChatGPT ser útil en la comunicación sanitaria?
Sí, pero con límites claros. Puede ayudar a redactar mensajes divulgativos, resumir información o responder preguntas frecuentes. El riesgo aparece cuando genera información médica incorrecta sin mecanismos de verificación por parte de profesionales cualificados.
Fuente: XVI Seminario de Biomedicina, Ética y Derechos Humanos (noviembre 2023)
