Sanidad fija límites al uso de la IA en las consultas: el algoritmo nunca tendrá la última palabra y hay que informar al paciente de su uso

La inteligencia artificial puede ayudar a detectar una enfermedad en una radiografía, advertir de una posible interacción entre medicamentos o preparar el borrador de un informe médico. Pero no podrá decidir por sí sola qué diagnóstico recibe un paciente ni qué tratamiento debe seguir. La última palabra y la responsabilidad continuarán recayendo en el profesional sanitario.

El Ministerio de Sanidad ha publicado una guía para trasladar a la práctica asistencial las exigencias del Reglamento europeo de inteligencia artificial y de la normativa sobre protección de datos y productos sanitarios. El documento establece pautas para médicos, enfermeros y demás profesionales que seleccionen, supervisen o utilicen sistemas de IA en la atención directa a los pacientes.

La principal regla es que la tecnología debe funcionar siempre como una herramienta de apoyo. Sanidad rechaza expresamente que se le deleguen decisiones clínicas autónomas y exige una “supervisión humana significativa”, especialmente cuando se empleen sistemas considerados de alto riesgo. El sanitario tendrá que comprobar las recomendaciones generadas por la máquina y documentar las decisiones que adopte a partir de ellas.

La guía llega en un momento en el que este tipo de herramientas comienza a extenderse por hospitales y consultas. Desde el análisis automatizado de imágenes hasta la elaboración de resúmenes de historiales, sus posibilidades aumentan, pero también los riesgos de errores, sesgos y una confianza excesiva en resultados que pueden parecer objetivos sin ser necesariamente correctos.

El paciente deberá saber cuándo interviene una IA

Sanidad distingue entre el uso meramente informativo y la incorporación de un algoritmo al proceso asistencial.

Un profesional puede consultar una herramienta generalista para buscar información, preparar una reflexión o revisar bibliografía, siempre que no introduzca datos personales ni deje en manos del sistema ninguna decisión sobre el paciente. En esos casos, no existe, en principio, obligación de comunicar su utilización.

La situación cambia cuando la IA forma parte del diagnóstico o del tratamiento. Si se emplea, por ejemplo, un programa sanitario con marcado CE para analizar una prueba o recomendar una actuación clínica, el paciente deberá ser informado porque esa tecnología puede influir en las decisiones que se tomen sobre su salud.

El profesional deberá explicar qué papel ha desempeñado la herramienta y cuáles son sus implicaciones. La guía vincula esta exigencia con el derecho del paciente a conocer y aceptar las actuaciones que forman parte de su atención sanitaria.

Los datos clínicos no pueden copiarse en ChatGPT

Una de las advertencias más claras afecta al uso de sistemas generalistas como ChatGPT, Gemini o Claude. Sanidad establece que no se deben introducir datos personales, y especialmente información de salud, en herramientas que no hayan sido diseñadas, validadas y autorizadas para su utilización sanitaria o que no garanticen el cumplimiento del Reglamento General de Protección de Datos.

Copiar una historia clínica, una descripción que permita identificar al enfermo o una imagen médica en una plataforma no autorizada podría constituir una infracción grave, con consecuencias legales y éticas. Solo podrá emplearse información anonimizada que no permita reconocer directa ni indirectamente al paciente.

La misma precaución se aplica a la circulación posterior de los resultados. Los informes, imágenes o recomendaciones que contengan información identificativa no deberán compartirse a través de WhatsApp, correos electrónicos convencionales u otros canales no seguros. Tendrán que utilizarse los sistemas internos y autorizados por cada administración sanitaria.

El médico responderá aunque el error proceda del algoritmo

La IA no tiene personalidad jurídica y no puede asumir responsabilidades por una decisión equivocada. Según las orientaciones de Sanidad, ante un efecto adverso la responsabilidad puede recaer en el profesional que haya empleado la herramienta o en su empleador. Los fabricantes y proveedores también podrían responder cuando el daño tenga su origen en defectos del sistema, fallos de diseño o datos incorrectos.

El sanitario no podrá escudarse en que siguió la recomendación de la máquina. Antes de aplicarla deberá validarla, contrastarla con la evidencia científica y comprobar que es compatible con las guías clínicas.

Cuando el criterio del profesional y el resultado de la IA no coincidan, prevalecerá siempre el juicio médico. La discrepancia y los motivos para apartarse de la propuesta algorítmica deberán quedar documentados.

La guía también alerta del llamado sesgo de automatización: la tendencia a confiar excesivamente en una recomendación por el mero hecho de haber sido generada por un sistema tecnológico. Para evitarlo, Sanidad reclama una revisión independiente de cada resultado y formación específica para comprender las limitaciones de estas herramientas.

El sanitario podrá negarse a utilizarla

Los profesionales podrán rechazar un sistema de inteligencia artificial cuando consideren que no ofrece suficientes garantías técnicas, jurídicas o éticas, o que puede poner en riesgo la seguridad o los derechos del paciente.

La negativa deberá estar fundamentada y comunicarse, cuando proceda, mediante los cauces internos del hospital, centro de salud o servicio autonómico correspondiente. También se recomienda suspender inmediatamente el uso de cualquier aplicación que arroje resultados contradictorios, presente sesgos sistemáticos o no disponga de documentación suficiente.

Entre las principales señales de alerta, Sanidad incluye la ausencia de certificaciones como el marcado CE, la falta de estudios clínicos independientes, los resultados incoherentes, un rendimiento no documentado o la imposibilidad de conocer con qué población fue entrenado el algoritmo.

Qué tareas podrá asumir

El documento sí admite que la IA realice de forma autónoma determinadas funciones administrativas que no impliquen una decisión directa sobre la salud. Entre ellas se encuentran la organización de agendas, la priorización de citas, la elaboración de resúmenes automáticos de historiales o la emisión de alertas sobre posibles riesgos.

También puede prestar apoyo en tareas asistenciales como el análisis de radiografías, la predicción de riesgos, la personalización de tratamientos o la elaboración de borradores clínicos. Sin embargo, cualquier resultado que pueda afectar al diagnóstico o al tratamiento deberá ser revisado por un profesional.

Sanidad insiste, además, en que para estos usos deben priorizarse herramientas validadas clínicamente, con trazabilidad, garantías de protección de datos y las certificaciones regulatorias correspondientes.

Orientaciones, no una nueva ley

El texto no constituye una nueva ley específica sobre inteligencia artificial sanitaria. Se trata de unas orientaciones prácticas que reúnen y trasladan al trabajo cotidiano obligaciones ya contenidas en el Reglamento europeo de IA, el RGPD, la legislación sobre autonomía del paciente y la normativa de productos sanitarios.

El propio Ministerio advierte de que las recomendaciones deberán adaptarse a las circunstancias de cada servicio de salud y de cada caso. Seguirlas tampoco exime al profesional de responsabilidad ni sustituye su propio juicio clínico.

La guía fija así una frontera para la incorporación de algoritmos a la asistencia: la IA podrá acelerar tareas, analizar grandes volúmenes de información y ayudar a detectar riesgos, pero no sustituirá la relación entre el profesional y el paciente ni asumirá la decisión final sobre su salud.

Suscríbete para seguir leyendo