Del ojo clínico a la inteligencia artificial

La posibilidad de emitir un diagnóstico certero, como se dice comúnmente, pareciera algo mágico. Cuando alguien lo hace de manera correcta y repetida, decimos que se trata de un buen clínico, o que es muy atinado. Pensamos que deriva de una forma esotérica de intuición, término poco agradable en esta época de algoritmos y certezas digitales. Se aplica una heurística inconsciente que intenta usar algoritmos elaborados no con certezas, sino con cálculos probabilísticos que pasamos a través de nuestras redes neuronales para, finalmente, aplicar las pruebas que intentan demostrar lo que buscamos: el diagnóstico (y, obviamente, los tratamientos posibles y el pronóstico de la situación).

Ilustración: Alma Rosa Pacheco

Muchos mencionan que este “proceso clínico” es intuitivo, que tiene que ver con “el ojo clínico” e incluso con la inspiración. Nada de eso. Se trata de estrategias basadas en conocimiento y experiencia usadas para solucionar problemas o tomar decisiones en condiciones de incertidumbre. Y, sin embargo, cada vez se promueve más la reflexión sobre cómo sucede realmente ese pensamiento y poderlo objetivar de la mejor manera posible, entendiéndolo no como “razonamiento clínico” sino como un razonamiento de tipo probabilístico al que pueden aplicarse metodologías estadísticas y de pensamiento Bayesiano.1 Entre más datos introduzcamos en nuestro pensamiento (algunos dirán “nuestros algoritmos”), mejor funciona nuestro sistema de pensamiento.

Para completar el proceso, debemos sumar una actitud humana, tanto en su vertiente humanística (en el sentido cultural del uso de las humanidades para relacionarse con el otro) como en la humanitaria (que busca el bien, la caridad y el beneficio del otro).2 Sin duda la aplicación de principios y valores bioéticos es complemento importante de la relación establecida con ese otro compuesto por las, los y les pacientes.

Toda esta explicación general viene a cuento por la irrupción de lo que se conoce como inteligencia artificial y el impacto que ésta puede llegar a tener en el ámbito médico; incluyendo la preocupación de si será posible sustituir el proceso explicado en párrafos anteriores por un sistema inteligente que haga obsoleta la cuasisagrada relación paciente-médico.

Los profesionales médicos no somos seres infalibles sino simples humanos con conocimiento, entrenamiento y experiencias especiales a quienes nos corresponde identificar el mejor camino que debe llevar la atención de otro ser humano que requiere ayuda; somos, en otras palabras, seres que utilizamos algoritmos generadores de decisiones que, de manera resumida, debemos aplicar amablemente (esto es, con amor).

El modelo de toma de decisiones en medicina sigue un proceso de pensamiento basado en conocimiento obtenido por procesos científicos, que es organizado algorítmicamente y sometido a análisis estadístico que se ve atravesado por distintos sesgos (de tipo emocional, retrospectivo, de confirmación, de autoservicio, de correspondencia, de consenso o memoria, entre muchos otros), que inconscientemente tenemos y que intervienen en la toma de decisiones que, en medicina, frecuentemente deben ser rápidas y en situaciones de incertidumbre que frecuentemente no son posibles de controlar.

Así, de una manera simplista, los médicos utilizamos algoritmos de decisión que pueden estar construidos de una manera poco eficiente y que se aplican utilizando una heurística poco precisa (la “regla de oro”, la aproximación, el juicio intuitivo, el estereotipo, el “sentido común”, los cálculos estimados, etc.).3 Es por eso que se construyen guías clínicas que puedan ayudar a presentar de manera sucinta la información necesaria para tomar decisiones (en algunos temas, incluso se exige la certificación en cursos de capacitación que hagan de lado esos sesgos y esa heurística estorbosa como es en el apoyo vital en trauma, la resucitación cardiopulmonar y el manejo avanzado en temas cardiovasculares).

La capacidad de los modernos teléfonos celulares traslada el internet a la palma de la mano. Las cifras difieren según la fuente, pero la gran mayoría de los mexicanos está utilizando la inteligencia artificial en la actualidad y ya no realizan un viaje urbano sin poner su destino en una aplicación que calcula la mejor ruta a seguir, avisa el tiempo de duración y modifica la ruta si encuentra opciones mejores utilizando geoposicionadores muy precisos interactuando con nuestros equipos. Ya existen programas diversos en el ámbito médico.

En la actualidad ya nadie saca su tabla con fórmulas para calcular el ‘anion-gap’, el índice de masa corporal, el VO2max, u otros parámetros que se derivan de constantes fisiológicas medibles (y que antes obteníamos haciendo las divisiones y multiplicaciones requeridas de manera manual o usando una calculadora electrónica simple). Los equipos actuales ya vienen con los programas “inteligentes” para dar los resultados requeridos.

Los algoritmos generadores de decisiones convierten datos en evidencia para un desenlace específico (cómo llegar a la mejor opción diagnóstica, por ejemplo), el cual es concluyente y capaz de detonar una acción (ir por una ruta diagnóstica o terapéutica específica), que en sí misma puede no ser éticamente neutra, que trabaja de manera compleja y es semiautónoma.4 Estos algoritmos complican la distribución de responsabilidad por los efectos de las mismas acciones generadas por ellos (la evidencia usada de donde se toman los datos, sus efectos transformativos y la trazabilidad de los mismos —o sea, de dónde vienen).

En el ámbito de la atención de la salud la inteligencia artificial ya se encuentra entre nosotros, y cada vez se presentará de manera más sofisticada.5 La apuesta no sólo va por mejorar la atención médica, sino eliminar los errores diagnósticos y terapéuticos.6

¿Vaticina esto la obsolescencia de la relación paciente-personal de salud? ¿Implica que el proceso de pensamiento clínico ya no tendrá razón de ser? Mi impresión es que no, pero se debe participar en su desarrollo haciendo de lado la obsesión de antropomorfizar el asunto lo que nos lleva a preguntar, ¿y el aspecto humanista? Ya hay sistemas que muestran más “empatía” y están en prueba sistemas que “platican” con el paciente, incluso con mayor satisfacción de estos en comparación con su contraparte humana.7

Pero, como escribe Dennett, queremos herramientas útiles, no colegas falsificados.8 Por eso debemos impulsar que estos sistemas tengan claras marcas de identificación de lo que son: máquinas. Muy potentes, con mucha información. Y también por eso, el personal de atención de la salud debe mejorar su aspecto intrínseco, lo humano, la cultura general y la bioética. Como decía Pérez-Tamayo: “Un médico culto es un mejor médico, pero no porque sea culto sino porque es un mejor ser humano”. ¿Podremos hacerlo? Espero que sí.

 

Patricio Santillan-Doherty
Médico. Cirujano de Tórax. Titular de la Comisión Nacional de Bioética y miembro del Colegio de Bioética.


1 Brush JE., The Science of the Art of Medicine, Dementi Milestone Publishing, USA, 2015. pp 152

2 Pérez-Tamayo R. “Humanismo y Medicina”, Gac Med Mex., 149, 2013, pp. 349-53.

3 Lehman R., “Review of ‘The Science of the Art of Medicine’”, Circulation: Quality and Outcomes, 7(3), 2014, 486

4 Mittelstadt PD, y coautores “The Ethics of Algorithms: Mapping the Debate. Big Data and Society”, Jul-Dec, 2016, pp. 1-21

5 Ver la revista Science del 13 de julio de 2023; y, para tal efecto, la nueva revista NEJM-AI que inició en enero 2024.

6Topol, E., “Toward the eradication of medical diagnostic errors”, Ground Truths, 28 de enero de 2024

7 Tu T, Palepu A, Schaekerman M, y coautores, Towards Conversational Diagnostic AI, arxiv 11 de enero de 2024

8 Dennett D., “The Problem With Counterfeit People”, The Atlantic, mayo de 2023.


4 comentarios en “Del ojo clínico a la inteligencia artificial

  1. Buen artículo. Me recordó la frase de Siddhartha Mukherjee en «Las leyes de la medicina»:
    «Ninguna ciencia está libre del sesgo humano. Aunque fabricamos máquinas imponentes para recabar, almacenar y manipular datos, los humanos somos los observadores finales, los interpretes y los árbitros de los datos».

    Ahora bien, en México, ¿hay alguna empresa que esté trabajando con hospitales privados para el desarrollo de IA en alguna rama, e.g. cáncer, diabetes? ¿Existen hospitales en México que cuenten con un departamento de ciencia de datos? La cantidad de información (sensible también) que genera un hospital es tremenda, pero ¿tienen la capacidad de sacarle jugo? Me gustaría saber más sobre esto.

    Saludos y continúen siendo humanos con sus pacientes.

    1. Estimado Martín, aprecio mucho tu comentario. Como también escribe Mukherjee en su libro parafraseando a Hipócrates: “el arte de la medicina es largo y la vida es corta, la oportunidad es fugaz, el experimento es arriesgado y el juicio defectuoso.”
      Yo soy médico y no desarrollador (entendido como programador o ingeniero en computación o algo relacionado a la ciber-ciencia), por lo que no puedo decir si existen o no grupos trabajando en algún desarrollo especifico. Debe haber muchos haciendo cosas en lo que se conoce como IA ‘suave’ (sistemas para tareas específicas como reconocimiento de imágenes). La IA ‘dura’ o generativa tipo ChatGPT requiere una magnitud de recursos cibernéticos que me hace dudar que exista algún proyecto en curso, pero puede ser (ver lo que OpenAI ha invertido para poder poner liberar ChatGPT3 y el 4). Tal vez existan colaboraciones internacionales pero sinceramente lo desconozco.
      Sin duda el sistema de atención médica de nuestro país está haciendo esfuerzos para participar de todo esto. El primer paso es digitalizar la información existente (expediente electrónico, imágenes digitales, resultados de laboratorio todo en grandes bases de datos). Muchos hospitales públicos y privados hacen esfuerzos para esta conversión. Nuestro principal problema estriba en la heterogeneidad de los recursos destinados en donde los privados avanzan con mayor velocidad y los públicos enfrentan dificultades económicas serias. El otro problema es la pulverización de nuestro sistema en el sentido de que cada hospital, como dicen coloquialmente, ’se rasca como puede’. El efecto es que tenemos un sistema compuesto por miles de pequeños sistemas que merecen ser homogeneizados para poder interconectarse y poder tener acceso masivo a esa información de la cual pueden derivar decisiones importante (tanto a nivel individual del paciente, como a nivel de salud pública). Sin duda pensar en una política pública que impulse esto es necesario.
      Valga esto para comentar que, viendo otro aspecto del tema, es tal la magnitud de los recursos energéticos requeridos para estos sistemas, que el gasto para hacerlo (y la huella de carbono que deja) se plantea como una preocupación, sobretodo en países donde predomina el uso de recursos fósiles para producir la electricidad que requieren (ver: https://www.technologyreview.com/2023/12/05/1084417/ais-carbon-footprint-is-bigger-than-you-think/amp/ ).
      Nuevamente, gracias.

  2. Dr. Patricio: Tu interesante artículo del Ojo Clínico a la IA, la verdad sea dicha, me dejó muy dubitativo, creo que las relaciones humanas aún no van a desparecer, pero también creo que la ciencia médica (en general toda la ciencia) y la tecnología, no se pueden ni se deben detener y, ello, debe redundar en beneficio de la humanidad; no puedo escribirte más al respecto por no ser docto en el tema y lo mejor es seguir leyendo sobre la IA. Vale.

    1. Estimado Cuauhtémoc, coincido totalmente en lo que mencionas sobre las relaciones humanas sobretodo en medicina. Por eso se habla de ella como ciencia y arte (la más científica de las artes y la más artística de las ciencias). ¡Vaya compromiso! Pero depende de nosotros, pacientes y personal de la atención de la salud, que siga siendo así. La IA es un tremendo reto y está en nosotros convertirlo en herramienta y no en otra cosa. Como dicen por ahí, no todos tenemos las respuestas, pero todos tenemos la responsabilidad.
      Muchas gracias.

Comentarios cerrados