El sector sanitario ha invertido miles de millones en automatización durante las últimas décadas, pero para muchos, la inteligencia artificial no ha proporcionado la eficiencia o los retornos financieros esperados. Investigaciones recientes del MIT revelan que el 95% de las organizaciones no han reportado ningún retorno de inversión de sus programas de IA hasta el momento.
Uno de los principales motivos de este problema es la desconexión entre muchas soluciones y flujos de trabajo. Las organizaciones sanitarias han invertido en automatización sin establecer los mecanismos de responsabilidad necesarios, implementando sistemas de IA que carecen del contexto para operar de forma fiable. En lugar de reducir la fricción, estas herramientas pueden terminar incrementando la carga administrativa, al mismo tiempo que hacen a la organización vulnerable a errores con impacto en la vida de las personas.
La IA es una herramienta. Los humanos son responsables. Pero podemos ingeniar la responsabilidad en los sistemas de IA priorizando la integridad de los datos, la supervisión humana y el aprendizaje continuo. Cuando la IA es honesta y actúa como un conector en los flujos de trabajo clínicos, se libera tiempo de los profesionales, se garantiza la precisión y se protege los ingresos.
La integridad de los datos es clave para una IA responsable
Para mantener la honestidad de estos sistemas, las organizaciones sanitarias deben asegurar que sus datos estén bien gobernados y contextualizados. Hoy, muchas carecen de ese contexto. Cuando los datos clínicos y operativos residen en soluciones puntuales separadas o en historiales electrónicos antiguos que no se comunican entre sí, los agentes de IA no pueden operar con el contexto adecuado para producir resultados precisos y fiables. Utilizar un agente de IA que opera con datos parciales es como conducir con anteojeras; y en el ámbito de la salud, donde cada decisión tiene consecuencias reales, las conjeturas no son una opción.
La interoperabilidad de los datos es el punto de partida para una IA responsable. Cuando las organizaciones unifican los datos de todas sus soluciones, la IA puede actuar con pleno contexto, agilizando los flujos de trabajo y reduciendo la fricción administrativa. Como resultado, se mejora la experiencia del paciente.
Equilibrando la IA con la supervisión humana
La integración exitosa de la IA en la salud requiere el equilibrio adecuado entre tecnología y experiencia humana, con la IA agentical modificando el nivel de supervisión humana necesario. Los sistemas autónomos pueden actuar de forma proactiva y gestionar procesos complejos, como señalar una tarea de cuidado preventivo pendiente o enviar una solicitud de autorización previa, pero eso no significa que no se siga necesitando supervisión humana. Los expertos humanos deben involucrarse como supervisores estratégicos y tomadores finales de decisiones, devolviendo tiempo a los profesionales para la atención al paciente y trabajo de alto valor similar. Al combinar el poder analítico de la IA con la experiencia y empatía humanas, las organizaciones pueden crear un sistema que empodere tanto a pacientes como a clínicos.
Fortalecer el criterio de la IA mediante el aprendizaje continuo
El sector sanitario está en constante cambio, con nuevas regulaciones y guías clínicas, así como con las expectativas evolutivas de los pacientes. Una herramienta de IA responsable es capaz de adaptarse a la industria a través de procesos de aprendizaje y retroalimentación continuos.
El aprendizaje continuo proporciona a la IA el contexto clínico, técnico y emocional del mundo real necesario para tomar decisiones informadas. El personal puede fortalecer el rendimiento de la IA con el tiempo mediante retroalimentación que refuerce los resultados apropiados y conformes, ayudando a evitar el error común de capacidad sin contexto. Por ejemplo, al usar un codificador médico de IA, un auditor humano debe revisar su resultado y proveer *feedback* para entrenar al sistema y lograr alta precisión. El aprendizaje continuo no solo asegura exactitud, también puede hacer las herramientas de IA más fáciles de usar para los clínicos. Mediante retroalimentación, un clínico que usa un asistente de escucha ambiental puede entrenar a la IA para formatear las notas clínicas en su estilo preferido, integrándose así de manera más fluida en su flujo de trabajo.
Este aprendizaje crea un valioso ciclo de retroalimentación que mejora la velocidad y la calidad. Los comentarios continuos de clínicos y personal pueden fortalecer el criterio de la IA, permitiéndole ejecutar tareas de forma más rápida y fiable.
La responsabilidad es la nueva métrica para la IA
Mantener la honestidad de la IA no se trata de ralentizar la innovación, sino de construir sistemas que apoyen a los clínicos, pacientes y al conjunto del sistema sanitario. El futuro de la salud estará definido por las organizaciones que adopten flujos de trabajo conectados impulsados por IA, manteniendo al mismo tiempo la experiencia humana. Todos se benefician cuando la IA es responsable, consciente del contexto e integrada. Las organizaciones reducen ineficiencias y protegen ingresos, los pacientes experimentan un acceso más fluido a la atención y aprobaciones más rápidas, y los clínicos tienen más tiempo para hacer aquello para lo que se formaron: cuidar de los pacientes.
Foto: Panya Mingthaisong, Getty Images
Ajai Sehgal se desempeña como Director de IA en IKS Health, liderando la visión y estrategia de IA para toda la empresa con el fin de aprovechar los datos, análisis y tecnologías avanzadas para acelerar la innovación, mejorar resultados y amplificar el impacto en el ecosistema sanitario. Líder experimentado con experiencia desde startups hasta empresas Fortune 100, Ajai fue recientemente el primer Director de Datos y Análisis de Mayo Clinic, donde impulsó el uso de más de un siglo de datos clínicos para potenciar innovaciones médicas revolucionarias y elevar la atención al paciente. También fue presidente de Tecnología Digital en el Centro de Salud Digital de Mayo Clinic.
Su experiencia de liderazgo global incluye roles tecnológicos senior en EagleView, Hootsuite y The Chemistry Group, supervisando áreas de Datos y Análisis, Ingeniería de Software, TI, Seguridad y Operaciones. Anteriormente, sirvió 16 años en la Real Fuerza Aérea Canadiense antes de unirse a Microsoft, donde jugó un papel clave en la fundación y expansión de Expedia hasta convertirla en la mayor agencia de viajes del mundo. Defensor de la innovación responsable en IA, Ajai continúa mentorizando y asesorando dentro de la comunidad tecnológica en general.
Este artículo se publica a través del programa MedCity Influencers. Cualquier persona puede publicar su perspectiva sobre negocios e innovación en salud en MedCity News a través de MedCity Influencers. Haga clic aquí para saber cómo.