La inteligencia artificial puede estar llegando a los consultorios, pero no está lista para ver pacientes

Cada vez más empresas impulsan la última tecnología de inteligencia artificial (IA), conocida como “IA generativa”: Google y Microsoft quieren usarla para la atención de salud. También las firmas familiares para los profesionales de salud como los gigantes de registros médicos electrónicos Epic y Oracle Cerner.

Y este campo está lleno de nuevas empresas.

Las empresas quieren que sus IA tomen notas para los médicos y ofrezcan una segunda opinión, suponiendo que puedan evitar que la inteligencia “alucine” o divulgue la información privada de los pacientes.

“Hay algo en marcha que es bastante emocionante”, dijo Eric Topol, director del Scripps Research Translational Institute en San Diego. Topol, como muchos otros observadores, se pregunta cuántos problemas podría causar, como filtrar datos de pacientes. “Vamos a averiguarlo”, aseguró.

El espectro de estos problemas inspiró a más de 1,000 líderes tecnológicos a firmar una carta abierta en marzo, instando a las empresas a frenar el desarrollo de sistemas avanzados de IA hasta que “tengamos confianza en que sus efectos serán positivos y sus riesgos serán manejables”. Aún así, algunas están invirtiendo más dinero en empresas de inteligencia artificial.

La tecnología subyacente se basa en sintetizar grandes porciones de texto u otros datos (por ejemplo, algunos modelos médicos se basan en 2 millones de notas de la unidad de cuidados intensivos del Centro Médico Beth Israel Deaconess en Boston) para predecir el texto que seguiría a una consulta determinada. La idea ha existido durante años, pero el frenesí empresarial y mediático es más reciente.

Comenzó en diciembre de 2022 con OpenAI respaldado por Microsoft y su producto insignia, ChatGPT, que responde preguntas con autoridad y estilo. Por ejemplo, puede explicar la genética con un soneto.

OpenAI, que comenzó como una empresa de investigación fundada por élites de Silicon Valley como Sam Altman, Elon Musk y Reid Hoffman, ha llevado el entusiasmo a los bolsillos de los inversores.

La empresa tiene una estructura compleja e híbrida con y sin fines de lucro. Pero una nueva ronda de financiación de $10 mil millones de Microsoft ha llevado el valor de OpenAI a $29 mil millones, informó The Wall Street Journal.

En este momento, la empresa otorga licencias de su tecnología a compañías como Microsoft y vende suscripciones a los consumidores. Otras nuevas empresas están considerando vender transcripción de IA u otros productos a sistemas hospitalarios o directamente a pacientes.

Los comentarios están en todas partes. Larry Summers, ex secretario del Tesoro, tuiteó recientemente: “Reemplazará lo que hacen los médicos (escuchar síntomas y hacer diagnósticos) antes de que cambie lo que hacen las enfermeras: ayudar a los pacientes a levantarse y manejarse en el hospital”.

Pero solo unas semanas después de que OpenAI recibió otra gran inyección de efectivo, incluso Altman, su director ejecutivo, desconfía de la fanfarria. “La exageración sobre estos sistemas, incluso si todo lo que esperamos es correcto a largo plazo, está totalmente fuera de control a corto plazo”, dijo para un artículo de marzo en The New York Times.

Pocos en la atención de salud creen que esta última forma de IA esté a punto de reemplazarlos en sus trabajos (aunque algunas compañías están experimentando, de manera controversial, con chatbots que actúan como terapeutas o guías para la atención).

Aquellos que son optimistas en la tecnología piensan que hará que algunas partes de su trabajo sean mucho más fáciles.

Eric Arzubi, psiquiatra de Billings, Montana, solía administrar a colegas psiquiatras para un sistema hospitalario. Una y otra vez, obtenía una lista de proveedores que aún no habían terminado sus notas: sus resúmenes de la condición de un paciente y un plan de tratamiento.

Escribir estas notas es uno de los grandes factores de estrés en el sistema de salud: es una carga administrativa. Pero es necesario desarrollar un registro para los futuros proveedores y, por supuesto, las aseguradoras.

“Cuando la gente está muy atrasada en la documentación, eso crea problemas”, dijo Arzubi. “¿Qué sucede si el paciente ingresa al hospital y hay una nota que no se ha completado y no sabemos lo que le pasa?”

La nueva tecnología podría ayudar a aliviar esas cargas. Arzubi está probando un servicio, llamado Nabla Copilot, que participa en las visitas virtuales de los pacientes y luego las resume automáticamente, organizando en un formato estándar la queja, el historial de enfermedades y un plan de tratamiento.

Los resultados son sólidos después de unos 50 pacientes, dijo: “Es el 90% del camino”. Copilot produce resúmenes útiles que Arzubi edita. Los beneficios son significativos: no tiene que preocuparse por tomar notas y, en cambio, puede concentrarse en hablar con los pacientes. Y ahorra tiempo.

“Si tengo un día completo de pacientes, donde podría ver a 15, diría que esto me ahorra una buena hora al final del día”, dijo. (Si la tecnología se adopta ampliamente, espera que los hospitales no aprovechen el tiempo ahorrado simplemente programando más pacientes. “Eso no es justo”, dijo).

Nabla Copilot no es el único servicio de este tipo; Microsoft está probando el mismo concepto. En la conferencia de abril de la Sociedad de Sistemas de Gestión e Información de Salud, los analistas de inversiones de Evercore destacaron la reducción de la carga administrativa como una de las principales posibilidades para las nuevas tecnologías.

Pero escucharon críticas mixtas: muchos expertos en tecnología y médicos son ambivalentes.

Por ejemplo, si estás desconcertado acerca de un diagnóstico, ingresar los datos del paciente en uno de estos programas “puede proporcionar una segunda opinión, sin duda”, dijo Topol. “Estoy seguro de que los médicos lo están haciendo”. Sin embargo, eso se topa con las limitaciones actuales de la tecnología.

Joshua Tamayo-Sarver, médico y ejecutivo de la startup Inflect Health, alimentó en un sistema  escenarios ficticios de pacientes basados en su propia práctica en un departamento de emergencias para ver cómo funcionaba. El sistema no se dio cuenta de afecciones que amenazan la vida, dijo. “Eso parece problemático”.

La tecnología también tiende a “alucinar”, o inventar información que suena convincente.

Los estudios formales han encontrado una amplia gama de rendimiento. Un trabajo de investigación preliminar que examinó ChatGPT y los productos de Google utilizando preguntas de examen abiertas de neurocirugía encontró una tasa de alucinaciones del 2%.

Investigadores de Stanford examinaron la calidad de las respuestas de IA en 64 escenarios clínicos y encontraron citas inventadas el 6% de las veces, dijo el coautor Nigam Shah a KFF Health News. Otro artículo preliminar encontró que, en casos complejos de cardiología, ChatGPT estuvo de acuerdo con la opinión de expertos la mitad de las veces.

La privacidad es otra preocupación. No está claro si la información que se introduce en este tipo de sistema basado en IA no se revelará. Los usuarios emprendedores de ChatGPT, por ejemplo, han logrado que la tecnología les diga la receta del napalm, que se puede usar para fabricar bombas químicas.

En teoría, el sistema tiene “vallas” que impiden que se escape información privada. Por ejemplo, cuando KFF Health News le preguntó a ChatGPT su dirección de correo electrónico, el sistema se negó a divulgarlo.

Pero cuando se le pidió que interpretara a un personaje y se le preguntó sobre la dirección de correo electrónico del autor de este artículo, entregó feliz la información. (De hecho, era la dirección de correo electrónico correcta del autor en 2021, cuando finaliza el archivo de ChatGPT).

“No pondría datos de pacientes”, dijo Shah, científico jefe de datos de Stanford Health Care. “No entendemos qué sucede con estos datos una vez que llegan a los servidores de OpenAI”.

Tina Sui, vocera de OpenAI, le dijo a KFF Health News que uno “nunca debe usar nuestros modelos para brindar servicios de diagnóstico o tratamiento para afecciones médicas graves”. No están “afinados para proporcionar información médica”, dijo.

Con la explosión de nuevas investigaciones, “no creo que la comunidad médica tenga una buena idea de lo que está por suceder”, agregó Topol.

KFF Health News is a national newsroom that produces in-depth journalism about health issues and is one of the core operating programs at KFF—an independent source of health policy research, polling, and journalism. Learn more about KFF.

This story can be republished for free (details).