¿Puedes confiar en la IA para responder preguntas sobre el cáncer?
Confías en la IA para preguntas sobre el cáncer?
La IA no siempre es la fuente más precisa de información de salud, especialmente cuando se trata de la atención del cáncer, según revela una nueva investigación.
Dos nuevos estudios evaluaron la calidad de las respuestas ofrecidas por los chatbots de IA a una variedad de preguntas sobre la atención del cáncer.
Uno de ellos, publicado el 24 de agosto en JAMA Oncology, se centra en el servicio de IA conversacional de oraciones completas conocido como ChatGPT, que se lanzó con gran entusiasmo en noviembre pasado.
El aspecto positivo: aproximadamente dos tercios de la información sobre el cáncer ofrecida por ChatGPT coincide con precisión con las pautas actuales de la Red Nacional Integral del Cáncer de los Estados Unidos.
- Qué hacer cuando encuentras un bulto
- El humo de los incendios forestales en Canadá causó un aumento en l...
- Perros de refugio vulnerables a enfermedades transmitidas por garra...
El aspecto negativo: el resto no lo hace.
“Algunas recomendaciones eran claramente completamente incorrectas”, dijo la autora del estudio, la Dra. Danielle Bitterman, profesora asistente de oncología radioterápica en Brigham and Women’s Hospital/Dana-Farber Cancer Institute y en la Escuela de Medicina de Harvard en Boston. “Por ejemplo, en casos donde se recomendaba un tratamiento curativo para un diagnóstico incurable”.
Otras veces, las recomendaciones incorrectas eran más sutiles, por ejemplo, incluir algunas, pero no todas, las partes de un régimen de tratamiento, como recomendar solo cirugía, cuando el tratamiento estándar también incluye radioterapia y/o quimioterapia, dijo Bitterman.
Eso es preocupante, dijo, dado el grado en que “información incorrecta se mezclaba con información correcta, lo que dificultaba especialmente detectar errores incluso para los expertos”.
Un segundo estudio en la misma edición de la revista ofreció una evaluación mucho más positiva de la precisión de la IA.
En este caso, los investigadores examinaron las respuestas de cuatro servicios de chatbot diferentes: ChatGPT, Perplexity, Chatsonic y Bing de Microsoft. Cada uno fue invitado a discutir sobre cáncer de piel, pulmón, mama, próstata y/o colon.
Los investigadores consideraron que la calidad y precisión de las respuestas eran “buenas”.
Pero, dijeron, eso no significa necesariamente que los pacientes encuentren útil la experiencia de IA. Esto se debe a que gran parte de la información proporcionada es demasiado compleja para la mayoría de las personas no profesionales de la medicina.
Al mismo tiempo, todas las respuestas estaban acompañadas de una advertencia general de que los pacientes no deben tomar decisiones de atención médica basadas en los datos proporcionados sin consultar primero a un médico.
La conclusión clave: es probable que muchos usuarios de IA encuentren que la información médica generada por chatbots es incomprensible, impráctica o ambas cosas.
“Los resultados fueron alentadores en el sentido de que había muy poca desinformación, porque ese era nuestro mayor temor”, dijo el autor del estudio, el Dr. Abdo Kabarriti, jefe de urología en South Brooklyn Health en la ciudad de Nueva York.
“Pero gran parte de la información, aunque precisa, no estaba en términos sencillos”, agregó.
Básicamente, los chatbots proporcionaron información a un nivel de lectura universitario, mientras que el consumidor promedio lee aproximadamente al nivel de sexto grado, dijo Kabarriti.
La información de IA que recibió el equipo de Kabarriti, dijo, “superaba ampliamente eso”.
Otro factor que probablemente frustrará a muchos pacientes es que la IA no les dirá qué hacer acerca de los síntomas del cáncer que describe, dijo Kabarriti.
“Solo dirá ‘consulte a su médico'”, dijo. “Quizás haya un problema de responsabilidad. Pero el punto es que los chats de IA no reemplazan la interacción que los pacientes necesitarán tener con sus médicos”.
El Dr. Atul Butte, científico de datos jefe del Sistema de Salud de la Universidad de California, escribió un editorial adjunto.
A pesar de las preocupaciones planteadas por ambos estudios, él considera que la IA “es un gran beneficio neto” para los pacientes y la comunidad médica en general.
“Creo que el vaso ya está más de medio lleno”, dijo Butte, señalando que con el tiempo la información proporcionada por los chatbots inevitablemente será cada vez más precisa y accesible.
Según Butte, algunos estudios ya han demostrado que la IA tiene el potencial de ofrecer mejores consejos e incluso más empatía que los profesionales médicos.
Su opinión es que con el tiempo los chatbots de IA jugarán un papel cada vez más crítico en la entrega de información y atención médica. Para muchos pacientes, el beneficio será tangible, predijo Butte.
Pocos pacientes tienen los recursos o privilegios para acudir a los mejores centros médicos del mundo, señaló.
“Pero imagina si pudiéramos entrenar la inteligencia artificial con los datos y las prácticas de esos lugares destacados, y luego entregar ese conocimiento a través de herramientas digitales en todo el mundo”, ya sea a los pacientes a través de aplicaciones o a los médicos a través de sistemas electrónicos de registros de salud, dijo Butte.
“Por eso estoy empezando a llamar a la inteligencia artificial ‘privilegio escalable'”, agregó. “[Es] nuestra mejor manera de escalar esa atención médica privilegiada, que [solo] algunos pueden obtener, para todos”.
GALERÍA
Más información
El Instituto Nacional de Imágenes Biomédicas e Ingeniería Bioquímica de Estados Unidos tiene una descripción general de la inteligencia artificial.
FUENTES: Danielle Bitterman, MD, profesora asistente de oncología radioterápica, Brigham and Women’s Hospital/Dana-Farber Cancer Institute y Harvard Medical School, Boston; Abdo Kabarriti, MD, jefe de urología, South Brooklyn Health, ciudad de Nueva York; Atul Butte, MD, PhD, científico de datos jefe, University of California Health System, y profesor y director inaugural, Bakar Computational Health Sciences Institute, UC San Francisco; JAMA Oncology, 24 de agosto de 2023
