PHOENIX – La inteligencia artificial está propagándose a través de la atención médica, aliviando la burocracia y brindando a los proveedores más tiempo con los pacientes. Sin embargo, los mismos sistemas pueden tener un sesgo profundo al redactar recomendaciones o analizar condiciones para el diagnóstico, sugiere una investigación inicial.
Un paciente entra en la oficina del Dr. Andrew Carroll en Chandler, buscando respuestas para síntomas preocupantes. Carroll, un médico con 29 años de experiencia, abre su computadora portátil, no para escribir, sino para escuchar.
Utiliza Nabla, un software de inteligencia artificial integrado en su sistema de registro de salud electrónico, para registrar y analizar la conversación. A medida que el programa transcribe, también redacta notas clínicas y posibles diagnósticos en tiempo real, lo que libera a Carroll para que se concentre en la persona que tiene delante. Las vastas capacidades de asistencia de la inteligencia artificial ya están integradas en las rutinas diarias de atención médica, desde mediciones médicas y análisis de sangre para los resultados de la atención al paciente y las poblaciones hospitalarias.
La IA también está aprendiendo rápidamente cómo tener en cuenta los determinantes sociales de la salud, como antecedentes culturales y el estatus económico, dijo Bradley Greger, profesor asociado de la Escuela de Ingeniería Biológica y de Sistemas de Salud de la Arizona State University.
“El desafío en el pasado siempre ha sido que los datos son tan enormes y tan complicados, pasar todo eso fue muy, muy desafiante”, dijo Greger durante una entrevista con el podcast Pathway to Equity de Cronkite News. “La IA ayuda a acelerar eso”.
Los mismos sistemas también conllevan el riesgo de sesgo si no se controlan.
El sesgo es un producto de la mente humana que jugó un papel crítico en la evolución al permitir una rápida toma de decisiones en situaciones peligrosas y señalar en quién confiar. Estos son atajos mentales necesarios para la supervivencia humana.
Los prejuicios, el favoritismo, la injusticia, la discriminación y la intolerancia son la otra cara del sesgo, que se integraron en la recolección de información, la investigación y la documentación en la que se basa la IA.
“Todo lo que sabe es en qué ha sido entrenada, y en lo que ha sido entrenada son los datos que hemos generado”, dijo Greger. “Es una máquina muy sofisticada y probabilística, pero no va a tener estos saltos gigantes de conocimiento… Si se entrena con datos realmente súper sesgados, ¿qué crees que obtienes? Obtienes una IA realmente súper sesgada.”
Un estudio, titulado “Gender Bias in LLMs for Long-Term Care”, analizó grandes modelos de lenguaje —o sistemas de IA que no solo entienden, sino que también generan respuestas similares a las humanas— y su capacidad para reproducir el sesgo de género al crear resúmenes de atención médica para récords de cuidado a largo plazo.
La investigación que intercambió el género de más de 600 registros de pacientes investigó qué tan propensos al sesgo son dos grandes modelos de lenguaje específicos: Llama 3 de Meta y Gemma de Google. Los investigadores encontraron que mientras Llama no mostró un sesgo de género considerable, Gemma reprodujo disparidades sustanciales, subestimando el énfasis de los problemas de salud de las mujeres, pero usando un lenguaje preciso para las preocupaciones de salud física y mental de los hombres.
Gemma se refirió a la salud de las mujeres en frases generalizadas y vagas, como “complicaciones de salud”, mientras usaba términos específicos como “delirio”, “infección torácica” y “COVID-19” para los hombres.
El modelo usó frases indirectas como “requiere ayuda” o “tiene necesidades de salud”, en comparación con declaraciones más directas para los hombres, como “no puede hacer esto” o “él está deshabilitado”.
Palabras como “feliz” aparecieron significativamente más a menudo en referencia a los hombres, señalando que estaban “felices” con la atención que recibieron, mientras que la satisfacción de las mujeres estaba en términos neutrales o no se mencionaba en absoluto.
De manera similar, un estudio de la Universidad de Duke probó cómo un modelo de inteligencia artificial predice el cáncer de seno y encontró que la herramienta funcionó con menos precisión para pacientes negros que para pacientes blancos.
El estudio tuvo como objetivo evaluar cómo el modelo de IA llamado Mirai hizo predicciones sobre el riesgo de cáncer de seno. Mientras el modelo original es avanzado y “difícil de interpretar”, los investigadores construyeron una versión más simple llamada AsymMirai que solo examinó las diferencias entre el seno izquierdo y el derecho para evaluar el riesgo de cáncer.
Cuando se probó, los resultados de AsymMirai fueron muy similares a los de Mirai, mostrando una fuerte coincidencia en las predicciones. Sin embargo, ambos modelos fueron menos precisos para los pacientes afroamericanos que para los pacientes blancos.
Los investigadores dijeron que este espacio probablemente proviene del hecho de que el modelo Mirai original se entrenó principalmente con datos de pacientes blancos.
Últimamente, a supervisión humana es fundamental porque la IA carece de una comprensión genuina y no puede comprender las implicaciones morales o sociales del sesgo por sí sola, dijo Carroll. Y aún con resultados prometedores, los médicos siguen teniendo precaución.
“No se puede programar la compasión o la empatía”, dijo Carroll, refiriéndose a sus preocupaciones sobre la pérdida del control humano de la atención médica.
Carroll recordó haber tratado a una mujer japonesa de 71 años con cáncer de seno etapa 1 que decidió no actuar sobre su enfermedad.
“Acabo de hablar con ella. Me aseguré de que su familia estuviera en la habitación”, dijo. “No sé si fue simplemente personal o cultural, pero fue una decisión que tomó, y le dije: ‘Está bien, entiendo, estoy aquí para ti si me necesitas para el manejo del dolor o si me necesitas para cualquier cosa'”.
Más tarde murió, dijo Carroll, y él se mantuvo en contacto con ella y su familia durante el proceso.
“Ahora un algoritmo de computadora le dirá “necesitas tener una tumorectomía y necesitas una terapia de radiación. Y es importante que lo haga porque queremos reducir nuestros costos'”, dijo Carroll.
Aclarion, una compañía de tecnología con base en Colorado brinda programas impulsados por inteligencia artificial que ayudan a los médicos a diagnosticar y tratar dolores de espalda crónicos. Para su CEO, Brent Ness, la IA es el puente entre la abrumadora información en bruto y los diagnósticos claros. Aclarion utiliza tecnología de resonancia magnética (MRI, por sus siglas en inglés) para detectar marcadores químicos que muestran qué discos espinales están causando dolor.
“Cuando el médico mira una imagen de resonancia magnética, a menudo puede verse perfectamente un disco sano”, dijo Ness.
Explicó que, en el interior, los ácidos pueden haberse acumulado, irritando los nervios y causando un dolor insoportable. “No se puede ver ese dolor en un escáner… Nuestro superpoder es ayudar a los médicos a ver lo invisible”.
La ola de información en bruto son ininteligibles para la mayoría de los médicos, por lo que la IA de la compañía los traduce en informes simples, destacando discos dolorosos, que los médicos luego analizan antes de redactar recomendaciones y tratamientos.
Carroll cree que la IA podría eventualmente reducir el sesgo mediante el uso de datos genéticos y étnicos más detallados. Si bien reconoce que los médicos ya consideran el origen étnico al tomar decisiones clínicas, ve un mayor potencial con la IA.
“El negro no es solo negro, ¿verdad? Puedes tener una persona negra de etnia nigeriana, puertorriqueña o jamaiquina”, dijo Carroll. Usando “más información genética granular”, cree que la IA podría personalizar la atención preventiva, señalando riesgos como la diabetes antes.
Carroll agregó que los pacientes a veces dudan en confiar en la IA.
“Su temor es que alguna computadora esté tomando decisiones fuera de lo que les proveemos”, dijo Carroll, pero “mientras haya un médico en el timón, ellos están aceptando la interacción de la tecnología y la medicina”.
La mayoría de los pacientes prefieren que sus proveedores de atención médica dependan menos de la IA, por temor a que los algoritmos no puedan comprender la naturaleza personal de la enfermedad, según un estudio de Pew Research.
Las fallas, como las denegaciones de seguros de IA que “no siguen la lógica clínica”, han reforzado esas dudas.
En respuesta, Arizona aprobó la propuesta H.B. 2175, la que prohíbe a las compañías de seguros que utilicen inteligencia artificial para tomar decisiones finales en reclamos denegados. Los profesionales médicos con licencia deben revisar y tomar la decisión definitiva a partir del 1 de julio de 2026.
Más allá de la legislación, la comunidad médica impone controles antes de adoptar nuevas herramientas de IA, agregó Ness.
“Debe demostrarle al médico a través de datos y su propia experiencia que funciona”, dijo Ness. “Y creo que eso está bien. Quiero decir, así es como debería ser. Es atención médica, después de todo”.
Los pacientes, por su parte, están experimentando con la misma tecnología.
La confianza en la IA generativa y su uso como fuente de conocimiento de salud ha aumentado en los últimos años, y el 63% de los estadounidenses consideran que la información de salud generada por la IA es confiable, según el Annenberg Public Policy Center.
Cuando los pacientes llegan a la clínica del Dr. John Oertle con resultados confusos, a menudo los ve recurriendo primero a Internet, y cada vez más a la IA, en busca de respuestas.
“Muchos pacientes están usando su ChatGPT o Gemini para poder hacer las preguntas correctas”, dijo Oertle, director médico de Envita Medical Centers, el cual ofrece tratamiento y cuidado médico para pacientes con cáncer y con la enfermedad crónica de Lyme.
Él ve esta tendencia no como un desafío a su experiencia, sino como una forma vital de abogacía al paciente, siempre que la información se utilice en asociación con un médico.
“Es realmente importante que los pacientes aboguen por sí mismos y lo utilicen para su propio aprendizaje”, dijo Oertle. “Lo empareja con un médico”.
Republish our articles for free, online or in print, under a Creative Commons license.
