Aunque la IA promete revolucionar la sanidad, la falta de transparencia en los algoritmos médicos suponen un riesgo para los pacientes. Urgen ensayos reales y una supervisión independiente.
Kayla Secrest era una médica recién graduada que comenzaba su residencia en un hospital de Michigan cuando tuvo su primer encuentro frustrante con la IA.
La dirección había implementado un algoritmo para analizar los historiales de los pacientes cada 15 minutos y enviar una alerta si se detectaban señales de alarma de sepsis. Es el tipo de innovación en el que a la industria de la IA le gusta destacar: automatizar una tarea rutinaria pero de vital importancia.
Sin embargo, las esperanzas de que esto aliviara su carga de trabajo pronto se desvanecieron. "Al cabo de unos meses, me di cuenta que la alerta saltaba con todos mis pacientes", y empecé a ignorarlas", recuerda.
Con el tiempo, ella y sus colegas perdieron la confianza en la herramienta y dejaron de acudir corriendo a la cama de los pacientes cuando aparecían las notificaciones. Más tarde descubrió que el sistema se había implantado en cientos de hospitales sin haber sido sometido a pruebas exhaustivas debido al ajetreo de estos centros. Se han hecho grandes promesas sobre el impacto de la IA en la atención sanitaria, y muchos médicos y hospitales desbordados confían en que esta pueda compensar la creciente demanda de sus servicios.
No obstante, la experiencia de Secrest y otros profesionales sugiere que existe una brecha entre la labor de los desarrolladores de IA y la de los profesionales médicos: a menudo hay poca supervisión independiente de lo que sucede cuando una herramienta de IA pasa del entorno artificial de un laboratorio al mundo impredecible de la atención sanitaria.
Los expertos consideran que, en algunos casos, esta falta de control supone un riesgo real para los pacientes. También puede dificultar la demostración de que determinadas herramientas mejoran el tratamiento o justificar la inversión que representan.
Jess Morley, investigadora asociada del Centro de Ética Digital de Yale y exresponsable de IA en el Departamento de Salud y Asistencia Social de Reino Unido, afirma que las empresas tecnológicas tienden a centrarse en la "validación estadística", es decir, en la precisión de la herramienta más que en su eficacia clínica.
Impacto real
"Pero lo que nos importa en el ámbito sanitario es ese segundo aspecto: queremos saber si la herramienta tiene un impacto real en los resultados de los pacientes", señala. "Y la evidencia de que la IA influye en los resultados de los pacientes es tremendamente escasa". Los defensores de la IA sostienen que esta tecnología se está adoptando en el sector sanitario a un ritmo más acelerado que en otros sectores y que está mejorando la atención, en parte al aliviar la carga administrativa de los médicos, por ejemplo, mediante la automatización de la toma de notas. "Desde hace ya una década, resulta evidente que hemos perdido a nuestros profesionales por la carga administrativa, lamentó en junio Kimberly Powell, responsable del área de salud en Nvidia, empresa diseñadora de chips para IA.
OpenAI informó que AdventHealth, una red hospitalaria estadounidense, registró una reducción del 80% en el tiempo dedicado a ciertas tareas administrativas al utilizar ChatGPT for Healthcare; además, una evaluación independiente de su colaboración con Penda Health en Kenia reveló una disminución del 16% en los errores de diagnóstico entre los profesionales que empleaban su asistente de IA.
Entre otras posibles aplicaciones se incluyen el control de pacientes mediante dispositivos wearables, el análisis de grandes volúmenes de datos para predecir la probabilidad de futuras enfermedades y la aceleración del proceso de desarrollo de fármacos.
En algunos ámbitos, como el diagnóstico y el diagnóstico por imagen, las pruebas del impacto de la IA son ya irrefutables. Eric Topol, director del Scripps Research Translational Institute, cita un estudio de 2024 que demuestra que las colonoscopias realizadas por gastroenterólogos con asistencia de IA detectaron muchos más pólipos que aquellas llevadas a cabo sin esta tecnología.
Sin embargo, en lugar de adoptar herramientas con una trayectoria demostrada, Topol señala que los gestores sanitarios se han dejado seducir por el factor sorpresa de la IA generativa. Este avance, impulsado por el lanzamiento de ChatGPT en 2022, permitió a la tecnología, por ejemplo, resumir abundante literatura médica para ayudar al médico a tomar decisiones.
Las lagunas normativas y la escasez de datos sobre el rendimiento dificultan determinar si los beneficios de la IA generativa superan sus riesgos. La prioridad actual debería ser "establecer esa relación entre beneficios y riesgos en la práctica médica real", sugiere el experto.
Topol percibe poco interés por parte de los principales grupos de IA en medir el rendimiento frente a datos recopilados tras el desarrollo del modelo, con el fin de verificar si los resultados son reproducibles en condiciones de uso real. "Los gigantes tecnológicos son muy hábiles creando modelos, así como probándolos en el laboratorio", afirma. "Pero, en general no han demostrado entusiasmo ni respaldo financiero para el tipo de ensayos [en entornos reales] que nos gustaría ver".
La falta de transparencia
Andrew Wong, médico e investigador, analizó el funcionamiento de la herramienta defectuosa para la sepsis durante su estancia en la Universidad de Michigan y, junto con sus colegas, colaboró con el desarrollador para mejorar su rendimiento.
En su opinión, las empresas suelen hacer afirmaciones muy concretas sobre cómo las herramientas de IA mejoran el flujo de trabajo y generan ahorros económicos, pero no tienen obligación alguna de divulgar información que facilitaría la verificación de dichos beneficios.
Esto podría incluir detalles sobre cómo se entrenó el modelo, qué tipo de conjunto de datos se utilizó, qué metodología se empleó para desarrollarlo y dónde se validó el modelo para obtener las estadísticas de rendimiento comunicadas. Sin esa transparencia -señala Wong, actual director de investigación clínica en IA de la Universidad de Utah-, la tarea de evaluar estas herramientas (cuya eficacia puede depender de factores como las características demográficas de los pacientes y las prácticas laborales hospitalarias) recaerá en cada institución individual. Y no todas disponen de los recursos necesarios para ello.
Entusiasmo excesivo
El entusiasmo excesivo en torno al impacto transformador de las herramientas de IA puede surgir sorprendentemente pronto en el proceso de desarrollo, según Constanza Andaur Navarro, profesora adjunta del Departamento de Ciencia de Datos y Bioestadística del Centro Médico Universitario de Utrecht. Ella y sus colegas analizaron artículos que describían nuevos modelos de IA y observaron una gran propensión a lo que ella denomina "sesgo de interpretación". La investigación reveló que, de los 21 resúmenes que recomendaban el uso de una herramienta concreta en la práctica diaria, 20 carecían de cualquier validación externa de los modelos desarrollados.
Los enfoques para regular la IA en el ámbito sanitario varían en todo el mundo. Sin embargo, según Stephen Gilbert -profesor de ciencia regulatoria de dispositivos médicos en la Universidad de Dresde-, coinciden en un aspecto: la vigilancia posterior a la comercialización de una herramienta suele basarse en "informes edulcorados redactados por el fabricante, carentes de datos brutos", lo que impide que terceros puedan analizarlos fácilmente.
Un informe de la Universidad de Stanford reveló que la FDA autorizó 258 dispositivos médicos basados en IA en 2025, la mayoría de los cuales no requirió nuevos ensayos clínicos. Sólo el 2,4 % de los dispositivos aprobados contaba con el respaldo del tipo de datos de ensayos que se consideran obligatorios antes de que un fármaco llegue a los pacientes. Algunos expertos consideran que estos estudios subrayan la importancia de replantear los enfoques tradicionales para garantizar la seguridad de los productos médicos ante la era de la IA generativa.
Los ensayos controlados aleatorios están diseñados para evaluar una molécula o un dispositivo -como un tensiómetro- que no sufrirá modificaciones una vez que entre en uso clínico. Sin embargo, los algoritmos que impulsan los grandes modelos de lenguaje cambian constantemente, señala Morley, de la Universidad de Yale. Algunos organismos reguladores intentan no obstaculizar la nueva tecnología, al tiempo que estudian establecer salvaguardias más estrictas.
"Necesitamos poner estas herramientas de IA en manos de los profesionales sanitarios con mayor rapidez y amplitud de lo que lo hemos hecho hasta ahora, ya que el potencial para mejorar la atención médica es enorme", afirma Lawrence Tallon, CEO de la Agencia Reguladora de Medicamentos y Productos Sanitarios (MHRA) de Reino Unido.
La Comisión Nacional sobre la Regulación de la IA en la Atención Sanitaria, dependiente de la MHRA, propuso este mes diversas medidas, entre ellas la autorización condicional para nuevas herramientas hasta que demuestren ser seguras y eficaces, así como la supervisión continua de aquellas que ya están en uso.
El seguimiento en condiciones reales recomendado por la comisión ayudaría a generar un sólido conjunto de pruebas que demuestren que la IA está marcando una diferencia clínica en múltiples ámbitos, sostiene Tallon, aunque sus conclusiones aún no han sido aceptadas formalmente.
Asimismo, destaca los exelentes resultados recientes de una vacuna contra el cáncer desarrollada por Merck y Moderna con ayuda de la IA como prueba del potencial de esta tecnología para, "en esos aspectos más avanzados, mejorar los resultados para los pacientes con cáncer y enfermedades raras".
En Estados Unidos se observa un enfoque similar. Gilbert, experto en regulación de la Universidad de Dresde, colabora con la FDA en un programa piloto que analiza cómo los modelos de IA aplicados a áreas como las enfermedades cardiovasculares, la diabetes y los trastornos de salud mental -afecciones crónicas que terminarán afectando a casi todos los estadounidenses- podrían obtener la aprobación regulatoria basándose en pruebas generadas durante su uso en el mundo real.
Sin embargo, algunos profesionales sanitarios advierten de que la regulación aún no sigue el ritmo del crecimiento de las capacidades de la IA, una velocidad sin precedentes en los campos de la medicina y la atención sanitaria.
John Paul Jeans, anestesiólogo consultor del NHS y emprendedor, cita datos de *Model Evaluation and Threat Research*, una organización de investigación sin ánimo de lucro que evalúa sistemas avanzados de IA. Esta organización midió la duración de una tarea de software que un sistema de IA podía completar sin ayuda con una tasa de éxito del 50%; los resultados mostraron que, desde 2023, la duración de dichas tareas se duplica aproximadamente cada cuatro meses.
"La prueba de fuego para cualquier normativa que se redacte hoy en día es si seguirá siendo útil para la sociedad tras triplicarse la capacidad de la IA", señala. Si se redacta para la herramienta que tenemos delante, bien podría quedar obsoleta antes de publicarse.
También preocupa si los hospitales cuentan con los recursos y la experiencia necesarios para evaluar las herramientas de IA. Paige Nong, de la Escuela de Salud Pública de la Universidad de Minnesota, dirigió una investigación en 2024 que reveló que poco más de la mitad de los hospitales encuestados habían evaluado si las herramientas presentaban posibles sesgos antes de utilizarlas para la asignación de recursos o la atención.
"Es posible que un hospital rural pequeño, que ya cuenta con una plantilla insuficiente, no tenga la capacidad para llevar a cabo ese tipo de evaluación", afirma, lo que alimenta el temor de que el avance imparable de la IA corra el riesgo de agravar las desigualdades sanitarias.
Ziad Obermeyer, médico e investigador de la Universidad de California en Berkeley, tuvo este problema tras analizar una herramienta de IA de "estratificación de riesgos" que se utilizaba para asignar recursos en su propio hospital. Descubrió que la herramienta tomaba el gasto pasado como indicador de la demanda futura; como resultado, se seguía pasando por alto a personas que necesitaban atención médica pero que no la habían recibido anteriormente, como las minorías étnicas o pacientes que no hablaban inglés.
En conjunto, las decisiones sobre los fondos destinados a la atención de cientos de millones de pacientes se ven influidas por este tipo de herramientas, señala.
Es posible que existan obstáculos técnicos para supervisar eficazmente el rendimiento. Amy Abernethy, exsubcomisionada principal de la FDA, afirma que recopilar más pruebas en entornos clínicos requerirá un tipo de infraestructura que siempre ha resultado difícil de obtener.
Según ella, "necesitamos algoritmos e IA que nos ayuden a depurar los datos para poder evaluar los algoritmos -así como otras intervenciones de prestación de asistencia sanitaria- con un nivel de detalle mucho mayor". También sugiere que sería necesaria una legislación que garantice la facilidad para compartir registros entre las autoridades sanitarias y que limite su responsabilidad legal en el manejo de estos datos.
Los datos de los pacientes suelen quedar aislados dentro de los hospitales y se custodian celosamente para proteger la privacidad, sostiene Obermeyer. "A los organismos reguladores les resulta difícil decirles a las empresas: "Bueno, se dice que este algoritmo es excelente; demuéstrenme cómo funciona con un conjunto de datos que el algoritmo nunca haya visto antes" porque esos datos son muy difíciles de conseguir", añade.
Cofundó una empresa, Dandelion Health, en un intento por sortear este problema. La compañía ha colaborado con hospitales de todo Estados Unidos para crear un conjunto de datos "muy amplio y diverso" que los desarrolladores de IA puedan utilizar para probar sus algoritmos.
Otros investigadores están realizando experimentos en el ámbito académico para perfeccionar métodos más eficaces de generación de datos, capaces de demostrar el impacto de las herramientas de inteligencia artificial en la salud de los pacientes.
Sammy Chouffani El Fassi, de la Universidad Duke, señala que cada vez se reconoce más la necesidad de que los desarrolladores respalden con pruebas sus afirmaciones sobre el rendimiento de las herramientas sanitarias. Actualmente colabora con investigadores tanto del sector industrial como del académico para desarrollar aplicaciones que ayuden a los cirujanos a tomar mejores decisiones.
"No intentamos averiguar simplemente si la herramienta funciona", afirma El Fassi. "Nos planteamos qué impacto tendrá dicha herramienta en los resultados clínicos del paciente".
Y añade que "intentamos trascender el plano teórico para centrarnos en el impacto clínico real".
© The Financial Times Limited [2026]. Todos los derechos reservados. FT y Financial Times son marcas registradas de Financial Times Limited. Queda prohibida la redistribución, copia o modificación. EXPANSIÓN es el único responsable de esta traducción y Financial Times Limited no se hace responsable de la exactitud de la misma.