Resumen del estudio
Investigadores españoles pusieron a prueba la capacidad de 223 médicos para detectar fallos en las recomendaciones de un sistema de inteligencia artificial (IA) destinado a guiar decisiones terapéuticas. A pesar de la normativa europea que exige la corrección de errores de IA, los resultados mostraron que los profesionales rara vez cuestionaron ni rectificaron los consejos equivocados, incluso cuando la evidencia clínica mostraba claramente que la IA estaba equivocada.
Metodología y escenario experimental
Los participantes debían imaginar que trataban a pacientes con una enfermedad rara mediante un fármaco experimental cuya eficacia no estaba probada. El algoritmo clasificó a cada paciente como "muy sensible" o "poco sensible" al tratamiento, pero la clasificación era deliberadamente falsa: la probabilidad de recuperación era idéntica en ambos grupos. Tras cada caso, los médicos recibían retroalimentación inmediata sobre si el paciente había mejorado, lo que les permitía detectar el error si prestaban atención.
Primer experimento: un fármaco moderadamente eficaz
En la primera fase, el fármaco tenía una efectividad real del 70 % para todos los pacientes tratados y del 20 % para quienes no recibían tratamiento. Aun así, los médicos siguieron la recomendación de la IA en el 89 % de los casos etiquetados como "muy sensibles" y solo en el 56 % de los "poco sensibles". Sus puntuaciones de eficacia (en una escala de 0 a 100) fueron 69,5 y 51 respectivamente, aunque el valor correcto debería haber sido 50 para ambos grupos, reflejo directo de la diferencia real de recuperación (70 % – 20 %).
Segundo experimento: un fármaco ineficaz
En la segunda fase, el medicamento no tuvo ningún efecto: el 70 % de los pacientes se recuperó independientemente de haber sido tratados. Aún así, los médicos aplicaron la clasificación de la IA al 78 % de los "muy sensibles" y al 37 % de los "poco sensibles", y asignaron puntuaciones de 67,6 y 47,2 respectivamente, cuando la puntuación correcta era cero para ambos grupos. No percibieron que la IA estaba equivocada ni que el tratamiento era inútil.
¿Por qué persiste la confianza ciega?
Los autores explican el fenómeno mediante tres sesgos cognitivos. Primero, automatización bias: la tendencia a confiar en la salida de una máquina sin comprobarla críticamente. Segundo, bias de confirmación: los médicos favorecen los casos donde esperan éxito y, al observar más recuperaciones en los grupos “favorecidos”, refuerzan su creencia en la precisión de la IA. Tercero, la ilusión de causalidad, que lleva a interpretar una coincidencia entre tratamiento y recuperación como una relación causa‑efecto, aunque no exista.
Implicaciones y límites
El estudio se realizó bajo condiciones de máxima incertidumbre: los participantes no tenían historial clínico ni datos contextuales que, en la práctica, podrían ayudar a validar o descartar la sugerencia de la IA. Por ello, algunos médicos pudieron haberse apoyado racionalmente en la herramienta por desconocimiento de la enfermedad ficticia. Sin embargo, la falta de corrección sistemática sugiere la necesidad de reforzar la capacitación crítica y los mecanismos de supervisión cuando se implementan sistemas de IA en entornos sanitarios.
