La duda como método: lo que ocurre cuando se entrena a una inteligencia artificial para reconocer lo que no sabe

Elegir un tratamiento casi nunca consiste en recordar un dato. Consiste en darse cuenta de que falta información. El médico que atiende a un paciente sabe que la función renal está en el límite, que ya toma un fármaco que podría interactuar con el nuevo y que arrastra una segunda enfermedad capaz de cambiar todo el cálculo de riesgo. Entonces va a buscar: consulta la ficha del medicamento, revisa una interacción, verifica si existe alguna advertencia para ese grupo de pacientes. Solo después decide. Ese vaivén entre la duda y la fuente es una parte central del trabajo clínico y resulta llamativamente ausente en los sistemas de inteligencia artificial que hoy se prueban en medicina. Los modelos de lenguaje responden a partir de lo que quedó fijado dentro de ellos durante su entrenamiento, con la fluidez de quien nunca duda.

Conviene aclarar por qué eso importa. Un modelo de lenguaje aprende leyendo enormes cantidades de texto y almacena lo aprendido en unas estructuras numéricas llamadas parámetros. Terminado el entrenamiento, ese conocimiento queda congelado. El modelo no sabe si la agencia reguladora agregó una advertencia el mes pasado, no puede verificar nada y tampoco distingue entre lo que recuerda bien y lo que recuerda mal. Contesta igual de convincente en ambos casos. En un examen de opción múltiple eso basta. Frente a un paciente concreto, no.

Un grupo del Departamento de Informática Biomédica de la Escuela de Medicina de Harvard, junto con colegas de Mount Sinai, Oxford y el Instituto de Investigación Clalit en Israel, publicó un trabajo que ataca ese problema de frente. Presentan ATHENA-R1, un sistema entrenado para hacer lo que hace un médico cuando duda: reconocer qué información le falta, ir a buscarla y corregir su análisis con lo que encontró.

Para eso le dieron acceso a 212 herramientas de consulta biomédica. Son, en esencia, puertas de entrada a fuentes confiables: las fichas técnicas oficiales que la FDA obliga a publicar para cada medicamento, bases de datos de interacciones entre fármacos, catálogos de síntomas asociados a cada enfermedad y listados de restricciones para poblaciones específicas, como embarazadas o niños. El sistema puede llamarlas en cualquier momento y en tiempo real durante su razonamiento.

El entrenamiento tuvo dos fases y ninguna requirió que un humano escribiera ejemplos a mano. En la primera, otros programas de inteligencia artificial generaron por su cuenta miles de casos clínicos y de trayectorias de razonamiento, siempre ancladas en las fichas oficiales de todos los medicamentos aprobados en Estados Unidos desde 1939. Reunieron 378 027 ejemplos de entrenamiento con casi 178 000 pasos de razonamiento. En la segunda fase entró en juego el aprendizaje por refuerzo, un método donde el sistema practica una y otra vez y recibe una calificación automática por cada intento. Aquí se premiaba haber buscado evidencia, haber razonado por pasos y no repetirse. El modelo del que partieron, llamado Qwen3-8B, es pequeño para los estándares actuales.

Los resultados en las pruebas cerradas son contundentes. En un banco de 3168 preguntas sobre información farmacológica, armado a propósito con medicamentos aprobados en 2024 y excluidos del entrenamiento para que el sistema no pudiera haberlos visto antes, ATHENA-R1 acertó el 94.7 %. GPT-5 llegó a 76.9 %. DeepSeek-R1, un modelo con 671 000 millones de parámetros, se quedó en 68.8 %. En una segunda prueba, con 456 casos donde la respuesta correcta depende de la situación particular del paciente —un fármaco adecuado para la enfermedad pero desaconsejado por un embarazo, por otra enfermedad o por una interacción—, obtuvo 82.9 % frente al 72.2 % de GPT-5. Un sistema ochenta veces más pequeño superó al grande porque hacía algo distinto, no porque tuviera más capacidad de cálculo.

El experimento más interesante vino después. Los autores le entregaron a GPT-5 exactamente las mismas 212 herramientas y lo dejaron decidir si quería usarlas. Las usó en el 1 % de los casos. Y su desempeño bajó de 72.2 % a 66.9 %, peor que sin herramienta alguna. Cuando lo obligaron a consultar en cada pregunta, apenas subió a 70.2 %. Tener acceso a información verificada, por sí solo, no mejora el juicio de un sistema de inteligencia artificial. Sin haber sido entrenado para integrarla, la evidencia externa entra como ruido en su razonamiento.

La validación con personas siguió tres caminos. Veintitrés especialistas provenientes de veintiocho organizaciones dedicadas a enfermedades raras compararon respuestas sin saber qué sistema había escrito cada una, y prefirieron a ATHENA-R1 en los ocho criterios evaluados. Sus mayores diferencias no estuvieron en la exactitud del contenido, sino en poder seguir el hilo del razonamiento y entender por qué el sistema concluía lo que concluía. Después, tres médicos calificaron casos hospitalarios reales de cardiología e infectología. Por último, los investigadores tomaron seis predicciones de efectos adversos generadas por el sistema y las buscaron en los registros clínicos de 5.4 millones de pacientes. Tres se confirmaron: aumento de falla renal aguda y de potasio elevado en sangre con betabloqueadores en personas con hipertensión y gota, y aumento de cáncer de hígado con un tipo de antidiabético en pacientes con diabetes y cardiopatía isquémica. Las otras tres no.

Las limitaciones que los propios autores enumeran son serias. El sistema no expresa qué tan seguro está de lo que afirma, y esa carencia pesa justo donde los evaluadores discreparon entre sí: los casos sin una respuesta clara en las guías. Sus datos de entrenamiento los generó él mismo, así que puede haber heredado los errores de ese proceso. Solo lee texto, de modo que no ve estudios de imagen, laboratorios seriados ni el historial completo del paciente. Y el análisis en registros clínicos observa asociaciones, no causas: sirve para plantear hipótesis que después alguien debe probar. El trabajo, además, es un preprint, es decir, un texto publicado antes de que otros investigadores lo revisen formalmente. Los autores insisten en un punto que conviene tomarse en serio: ATHENA-R1 es un sistema de investigación y no una herramienta para usarse frente a un paciente.

Separar el razonamiento del almacenamiento de conocimiento tiene una consecuencia práctica enorme para medicina. La evidencia se actualiza sin necesidad de reentrenar el sistema y cada conclusión queda ligada a una fuente que puede inspeccionarse. Es una propiedad que la práctica clínica exige y que los modelos actuales, encerrados en su propia memoria, no ofrecen.

Queda un dato incómodo. La posibilidad de causar daño fue el criterio donde el sistema recibió su calificación más baja, aunque siguiera siendo el preferido en ese rubro. Leído junto con la preferencia de los expertos por la transparencia del razonamiento, sugiere que poder auditar cómo piensa una máquina y poder confiarle una decisión clínica son problemas distintos. Hoy hay evidencia sólida sobre el primero y bastante menos sobre el segundo.

Referencia:

Gao S, Noori A, Zhu R, et al. An AI agent for treatment reasoning over a biomedical tool universe. arXiv. Preprint publicado el 27 de junio de 2026. arXiv:2606.28692. https://arxiv.org/abs/2606.28692