La IA y el razonamiento impenetrable en la medicina
La masiva adopción de la llamada Inteligencia Artificial (IA) en la educación médica obliga a la reflexión y balance de sus pros y contras. Me motivó esta columna, una entrevista al experto español en IA Ramón López de Mantáras, Doctor en Ciencia Cognitiva y con experiencia de 50 años en el desarrollo de la IA en todas sus formas, desde la robótica, las IA expertas en campos específicos, la IA general. La entrevista está disponible en YouTube (1). El primer brazo robótico con algoritmo de IA, se instaló en la industria del automóvil en 1961 (2). Hoy los robots chinos especializados se encargan de funciones de alto riesgo en la industria eléctrica y otras. La IA en su vertiente de robótica está en la vida real hace décadas.
La fascinación por la IA general
En la medicina, hace décadas que los algoritmos especializados crean las imágenes de resonancias magnéticas, tomografías, y resultados de muchos exámenes de laboratorio en sistemas automatizados. Digamos que las “máquinas robotizadas” son parte de la medicina de alta tecnología desde la época de las computadoras personales en los años 90 o antes. También, deberíamos saber de los fracasados intentos de usar algoritmos para el diagnóstico y el tratamiento. Ejemplo son, el sistema de IBM Watson Health, que prescribía fármacos para el cáncer y hubo de ser abandonado (3).
Lo que ha fascinado a los educadores médicos –que no atienden pacientes reales– es la IA general, los chatbots ChatGPT, Claude, Gemini, Copilot, y otros. En mi opinión, no se han percibido los riesgos de fallas estructurales que pueden ocurrir en los procesos cognitivos de los estudiantes para aprender paso a paso la complejidad de las ciencias básicas, la sutileza de la relación con los pacientes y sus familias, los procesos mentales del diagnóstico, el tratamiento y la reflexión cuando la evolución clínica no es como se esperaba. Otro riesgo importante es la falta de desarrollo o el retroceso del desarrollo logrado para leer textos complejos, comprender y la capacidad para escribir (escribir es una forma compleja de pensar). El riesgo es llegar a tener resultados cuyos significados no pueden comprender, quedando cegados para identificar errores del algoritmo. Un principio actual en medicina es que no uses la IA si no puedes verificar si sus respuestas son lógicas y coherentes. Hoy se admite que la IA “alucina”, una palabra tramposa para hacerla parecer humana; en realidad no “alucina”, sino que comete errores.
El otro gran riesgo para la medicina es que la IA nos lleva hacia un tobogán de deshumanización derivado de que se le atribuya conciencia humana. Ramón López describe este engaño y advierte del riesgo de que se convierta culturalmente en una idea impenetrable.
¿Qué es el razonamiento impenetrable?
De acuerdo con la Teoría de Modularidad de la Mente, hay ciertas funciones mentales que se dan fuera del control voluntario, por ejemplo ciertas percepciones demostradas en pruebas psicológicas conocidas, como el caso de dos líneas horizontales que miden exactamente lo mismo, pero las percibimos de longitud diferente (ilusión de Muller-Layer). Aunque medimos el largo de las líneas, percibimos más larga la que tiene flechas invertidas que la que tiene extremos con figura de flecha normal. El punto es que la propaganda que induce la creencia de que la IA logrará conciencia humana adulta (la existencia de un yo con historia de vida, capacidad ética, y auto-vigilancia de sus propios pensamientos. Un yo que se revisa a sí mismo, que dialoga consigo mismo sabiendo que no es un agente externo). La creencia de que la IA ha alcanzado esta consciencia humana podría ejercer tal presión social que se convierta en una verdad cultural que impida razonar y disentir. Estaríamos en una cultura inductora de razonamiento impenetrable respecto a la IA. El conocimiento impenetrable, y el concepto en psicología social del razonamiento motivado direccional (4) están muy relacionados. El conocimiento impenetrable es refractario a pruebas en contra, está encapsulado, enquistado; y el conocimiento motivado direccionado es una forma segada de buscar apoyar una posición, creencia, orientada en el rechazo de toda prueba en contrario de la idea o creencia encapsulada (típicamente las ideas políticas). En cambio, el razonamiento motivado NO-direccional, busca la mayor precisión posible sobre algún aspecto de la realidad, física, subjetiva, concepto, etcétera. Como aconsejaba Bertrand Russell, el razonamiento motivado NO-direccional es la única manera de ir encontrando paso a paso, lo más cercano a la verdad sobre algo. La buena enseñanza en medicina asumía este principio. Recuerdo a grandes maestros de la clínica médica como el doctor Mario Paredes Espinoza, que con cada PACIENTE REAL que presentábamos en su clase del sexto semestre, debíamos pensar en cada síntoma y signo, aquello que estaba a favor y en contra del diagnóstico hipotético. Paso a paso, una y otra vez, hasta incorporar un razonamiento motivado (servir al paciente-persona) de manera no-sesgada, hasta donde los hechos nos llevaban. Y algo que no olvido desde 1975, nos decía que aunque el paciente estuviera severamente enfermo de algún órgano vital, buscáramos minuciosamente una buena noticia para comunicarle… “¡su corazón se oye muy bien!”. Con este ejemplo, que no pueden dar los algoritmos computacionales, el profesor Paredes nos estaba mostrando la función eterna de la medicina de “consolar siempre”, y no solo aliviar frecuentemente y curar a veces.
El riesgo de deshumanización es patente cuando millones de personas consultan a estos sistemas sus más íntimos secretos y están creado “lazos afectivos” con chats no-vivos que fingen emociones y sentimientos.
Un ejemplo de la semana pasada
Una mujer conocida fue a consulta con un médico general privado, un sujeto maduro de unos 40 años. Durante la consulta, el médico anotaba en su computadora los datos clínicos y dirigía su vista constantemente hacia abajo donde tenía una tablet, hizo repetidamente este proceso. Veía poco a la paciente. La paciente interpretó que el médico estaba preguntando a la IA cada paso a seguir… mi conocida, se paró y abandonó el consultorio. “Ya no tuve confianza y vi que estaba perdiendo mi tiempo”.
Conclusiones
Las IA son muchas cosas, las IA especializadas ya han logrado un espacio en la medicina contemporánea desde hace mucho tiempo. La IA general no puede generar conciencia humana plena por razones amplias, empezando porque desconocemos cómo se genera tal conciencia o mente humana, y que tal cosa es imposible sin un cuerpo humano. La unidad mente-cuerpo es una realidad evolutiva de millones de años que comprendemos muy poco. Y los procesadores y algoritmos no son seres vivos, no tienen un cuerpo, una historia de vida, y su estructura no incluye neuronas biológicas, no usa neurotransmisores, no usa hormonas ni incluye células cerebrales como los astrocitos y otras de la neuroglia, sin las cuales el cerebro no podría funcionar. Pensar que se puede imitar la unidad cerebro-mente con los recursos tecnológicos actuales, es una ilusión sin fundamento. Por otro lado, los riesgos de que los médicos pierdan cualidades comprensivas para el diagnóstico, el tratamiento, la relación médico-paciente son apreciables con la adopción irreflexiva de la IA general. El impacto sobre los estudiantes es mayor, porque no han aprendido aún lo indispensable y no ven pacientes bajo su cuidado.
Mi opinión es que la medicina debe ser cauta y no olvidar sus tres funciones milenarias: curar a veces, aliviar frecuentemente y consolar siempre. Hago una pregunta a los médicos: ¿Anunciarías en tu consultorio: “aquí usamos IA general para su diagnóstico y tratamiento”? Y a las escuelas de medicina públicas y privadas: ¿Anunciarían que “esta escuela asume a plenitud una educación basada en la IA de última generación”? Y la pregunta obligada: ¿Cuáles son las pruebas, las evidencias, la base moral, legal y filosófica para incorporar la IA generativa en la educación médica? Si las respuestas a estas interrogantes no son claras, la cordura, la mesura, esperar y ver, deberían ser el camino lógico.
Referencias
