La IA agente es un tema candente en numerosas industrias, incluida la atención médica. Todos parecen estar entusiasmados con AGI, imaginando a Jarvis de Iron Man donde los sistemas de IA son capaces de inteligencia a nivel humano y capacidades de toma de decisiones.
La emoción es comprensible: de repente hay una oportunidad real de construir modelos y robots que imiten tareas humanas y puedan interactuar y comprometerse con los humanos. Las empresas están entusiasmadas con esta capacidad, especialmente en industrias con escasez de mano de obra para reemplazar a los trabajadores humanos con máquinas de IA que pueden automatizar tareas de manera más eficiente, sin errores o compensación financiera.
Pero cuando se trata de atención médica, creo que debemos tomarnos un minuto para evaluar a un nivel más profundo. En general, la atención médica es una industria altamente regulada por una buena razón y no puede asumir algunos de los riesgos y fallas inherentes a la IA que otras industrias pueden. Necesitamos evaluar la IA agente a través del lente específico de la industria de la salud y sus flujos de trabajo, evaluando las necesidades de los proveedores, las organizaciones de atención médica y los pacientes, reconociendo que la atención médica no es monolítica y tendrá flujos de trabajo que son más apropiados que otros para implementar la IA.
Para comprender esto se requiere ser honesto sobre las fortalezas y debilidades de la IA agente. LLMs sobresalen en procesos creativos, por ejemplo, ChatGPT puede crear instantáneamente una nueva canción sobre el último álbum de Taylor Swift al estilo de Dr. Seuss con pocos estímulos. Comparativamente, los motores basados en reglas son buenos en la producción estructurada. Considere un estímulo para un autoconducción: “Cuando un semáforo está en rojo, ENTONCES deténgase”. Lo fascinante de la IA agente es que probablemente se ubicará en algún lugar intermedio, en parte basada en reglas y en parte creativa, y navegar ese terreno intermedio y el riesgo y recompensa apropiados de cuándo debería aplicarse en los flujos de trabajo de la atención médica es el gran desafío.
La heurística más útil que he encontrado sobre este tema es mirar el concepto de riesgo versus consecuencia. Defino el riesgo como el porcentaje de que algo falle y la consecuencia como el resultado de esa falla.
En escenarios donde los riesgos del flujo de trabajo son altos, no quieres que el proceso agente lo posea: la realidad es que cada modelo de IA fallará en algún momento y el costo de esa falla podría ser demasiado alto en lo que respecta a los resultados de la atención médica.
Aquí hay dos ejemplos donde los flujos de trabajo agentes no funcionarían:
– Redacción o definición de directivas avanzadas (planificación de fin de vida). Claramente, hay un flujo de trabajo creativo e interpretativo aquí que requiere empatía, experiencia humana y juicio sobre cuándo guiar versus cuándo escuchar; porque la fuente de información (personas y sus situaciones) no es igual para todos. También es una situación con altas consecuencias que no quieres equivocarte de ninguna manera.
– Manejo de triaje en una sala de emergencias: un entorno caótico y de rápido movimiento. Las personas son las más adecuadas para tomar decisiones rápidas, no hay tiempo para ingresar datos en un agente.
Sin embargo, aquí hay dos ejemplos de dónde funcionaría la IA agente en la atención médica:
– Desbloquear datos de la HCE utilizando un agente para automatizar una secuencia de tareas que requieren navegar una interfaz de usuario. El software a nivel empresarial ya ha hecho esto antes. Solía llamarse RPA o Automatización de Procesos Robóticos, pero ahora los procesos impulsados por agentes pueden hacer esto con mucha más resistencia.
– Revisar historiales de pacientes para asegurarse de que los médicos no hayan pasado por alto condiciones crónicas emergentes.
En este momento, creo que la IA agentes está en una etapa en la que fallará si comienza a decirle a los médicos qué hacer y toma decisiones, y peor aún, dañará la confianza de todos (por su asociación) con la inteligencia artificial en la medicina. Cuando la seguridad del paciente, la empatía y el juicio humano tienen prioridad sobre el ahorro de costos y posibles mejoras en la eficiencia, un humano debe estar en el proceso. Pero automatizar tareas, tomar notas, extraer datos, los procesos tediosos y manuales en la atención médica que no requieren intervención humana en cada paso son un buen lugar para comenzar a implementar la IA. La industria de la salud debería estar considerando cómo la IA puede encontrar y presentar datos relevantes con contexto para permitir a los médicos humanos tomar decisiones informadas, liberando el tiempo de los proveedores para reducir el agotamiento y permitirles ofrecer una atención más personalizada para mejorar los resultados de los pacientes.
Foto: filo, Getty Images
Isaac Park pasó su juventud trasteando con la tecnología y en la escuela secundaria comenzó su educación formal en desarrollo de software. Después de mudarse a Durham, Carolina del Norte, se graduó de la Universidad de Duke con una licenciatura en Ciencias de la Computación. Isaac comenzó su carrera tecnológica de inmediato, trabajando como desarrollador de software, construyendo marcos de trabajo front-end. Luego pasó a un rol de gestión de productos, guiando a las partes interesadas y equipos técnicos a través de una amplia variedad de proyectos desde la concepción hasta el lanzamiento final.
En 2009, cofundó un estudio de innovación y productos, Pathos Ethos, y guió a startups y equipos de innovación corporativa a través de productos digitales que cambiaron el negocio en las verticales de salud y defensa: desde el lanzamiento de un producto de software de varios millones de dólares, hasta la construcción de una aplicación móvil nativa utilizada por más de 1 millón de usuarios simultáneamente. A finales de 2022, salió de Pathos Ethos y se unió a la Escuela de Ingeniería Pratt de Duke, sirviendo como profesor del Centro Christensen Family para la Innovación en Gestión de Productos e Innovación. En 2023, cofundó una empresa de tecnología sanitaria nativa de IA, Keebler Health, y actualmente se desempeña como director ejecutivo.
Esta publicación aparece a través del programa MedCity Influencers. Cualquiera puede publicar su perspectiva sobre negocios e innovación en el ámbito de la salud en MedCity News a través de MedCity Influencers. Haz clic aquí para descubrir cómo.