Video: El artículo en JAMA que dice que los médicos le estorban a la IA. ¿Tiene razón?

Hay afirmaciones que resultan atractivas precisamente porque simplifican un problema complejo.

Una reciente pieza publicada en JAMA sostiene una de ellas: en determinadas tareas clínicas, una inteligencia artificial podría rendir mejor no solo que un médico, sino también que un médico utilizando esa misma IA. Bajo esa lógica, mantener al humano en el circuito no necesariamente añadiría seguridad o calidad; en algunos casos, incluso podría empeorar el resultado.

Es una tesis provocadora. También es una tesis que merece bastante más cautela de la que su formulación inicial sugiere.

Una idea incómoda, pero no demostrada

El argumento parte de datos reales. Existen estudios en los que algunos sistemas de IA han superado a médicos en tareas de diagnóstico, selección de estudios o tratamiento. También hay evidencia de que la combinación humano-IA no siempre supera al mejor de los dos trabajando por separado.

Hasta ahí, el punto es difícil de ignorar.

El problema aparece cuando esa evidencia se utiliza para sostener una conclusión más amplia: que la atención médica autónoma podría llegar a ser superior a la atención proporcionada por médicos asistidos por IA.

Ese salto todavía no está resuelto.

El problema de convertir la medicina en un benchmark

Buena parte de los estudios citados comparan tareas cognitivas bien delimitadas y, con frecuencia, escenarios simulados. Son precisamente los contextos donde resulta más fácil medir desempeño, comparar respuestas y declarar un ganador.

Pero la medicina real no ocurre únicamente ahí.

Quedan fuera elementos mucho más difíciles de convertir en una variable: la exploración física, la información ambigua o contradictoria, el contexto familiar, la negociación con el paciente y la responsabilidad cuando una decisión produce daño.

Demostrar que una IA supera al médico en un conjunto de tareas medibles no equivale necesariamente a demostrar que puede ofrecer una mejor atención clínica de manera autónoma.

¿El problema es el médico o el diseño de la colaboración?

Hay además una interpretación alternativa que me parece especialmente importante.

Si un médico empeora el resultado al corregir a una IA, podemos concluir que el humano introduce error. Pero también podemos preguntarnos si el problema está en cómo se ha diseñado esa interacción.

Quizá todavía no sabemos cuándo debe intervenir el médico, qué señales deberían justificar una corrección o cómo debe formarse a un profesional para trabajar con un sistema que, en determinadas tareas, puede ser mejor que él.

Una discusión que conviene tener antes de aceptar la conclusión

El artículo señala problemas reales: algunas IA ya superan a médicos competentes en tareas concretas, añadir supervisión humana no garantiza una mejora y seguimos siendo malos para decidir cuándo confiar en un algoritmo.

Pero de ahí a concluir que la medicina autónoma será superior todavía hay distancia.

En este video analizo la evidencia presentada por los autores y desarrollo cuatro objeciones que, a mi juicio, deben considerarse antes de aceptar la tesis central del artículo.

Porque la pregunta importante no es únicamente si una IA puede superar al médico en determinados benchmarks.

La pregunta es cuánto de la medicina real cabe dentro de esos benchmarks y cuánto estamos dejando fuera cuando usamos sus resultados para imaginar el futuro de la atención clínica.