Cuando hablamos de sesgo en la inteligencia artificial aplicada a la salud, la conversación casi siempre comienza —y termina— con los datos. Examinamos los conjuntos de entrenamiento, auditamos algoritmos y desarrollamos métricas de equidad. Sin embargo, existe otro tipo de sesgo que pasa desapercibido: el sesgo en el despliegue. Y es igual de peligroso.
Incluso el modelo de IA más entrenado y cuidadosamente calibrado puede reforzar la inequidad dependiendo de dónde y cómo se implemente. Para ser claros, la IA a la que nos referimos aquí son sistemas que analizan datos clínicos, como imágenes de pacientes, grabaciones e historiales médicos, no herramientas administrativas como las de transcripción o asistentes para agenda. Con demasiada frecuencia, las herramientas avanzadas se introducen primero en sistemas de salud urbanos y con muchos recursos; es decir, en instalaciones con una sólida infraestructura digital, personal suficiente y bucles de retroalimentación institucional eficaces. Mientras tanto, los hospitales rurales, los centros de salud comunitarios y los proveedores de servicios básicos se quedan esperando. A veces durante años.
Pero he aquí el problema de fondo: el sesgo en el despliegue no solo afecta a quién se beneficia de la IA, sino también a cómo se entrenará la IA futura. Si las herramientas de IA se implementan principalmente en centros urbanos wealth, los datos que generen reflejarán esas poblaciones, flujos de trabajo y resultados. Esos datos alimentan luego a la siguiente generación de modelos, creando un ciclo de retroalimentación que margina aún más a las comunidades subrepresentadas. En otras palabras, donde desplegemos la IA hoy determina quién estará representado en los algoritmos de mañana.
Esto no es solo un problema de cronograma de implementación. Es un reflejo de una brecha más profunda en cómo pensamos sobre la innovación. Las mismas comunidades que más podrían beneficiarse del apoyo a la decisión clínica, la aumentación diagnóstica o las herramientas de monitoreo remoto son las últimas en recibirlas. No porque la tecnología no esté lista, sino porque asumimos que la infraestructura no lo está. Esa suposición es en sí misma una forma de sesgo. Una revisión de alcance de junio de 2025 sobre la investigación en salud rural en Estados Unidos encontró solo 26 estudios revisados por pares sobre herramientas de IA en entornos rurales: 14 se centraron en modelos predictivos y 12 en infraestructura. Ningún estudio examinó la IA generativa en un despliegue rural real, y la mitad destacó la capacidad insuficiente de datos y análisis como una barrera importante para el desarrollo y la validación. Un artículo de julio de 2025 titulado ‘Una brecha creciente en la atención habilitada por IA’ señaló que la IA sigue ‘concentrada en centros académicos metropolitanos, dejando atrás a las comunidades rurales’. Señaló que los hospitales rurales enfrentan limitaciones de infraestructura, y que pocos proyectos de IA superan la fase de diseño para llegar al uso real en estas áreas.
He dedicado gran parte de mi carrera a aumentar el acceso a la atención, especialmente en lugares donde la atención médica está a horas de distancia, no solo a la vuelta de la esquina. Ese trabajo me ha mostrado lo transformadora que puede ser la tecnología, pero solo si llega a las personas que más la necesitan. No podemos afirmar que la IA está democratizando la atención mientras limitamos su alcance a los códigos postales que ya tienen el mejor acceso.
El sesgo en el despliegue no es malintencionado. Pero si no nombramos este sesgo y lo tenemos en cuenta, corremos el riesgo de reforzar un sistema de dos niveles donde la IA mejora los resultados para algunos y no hace nada por otros.
La equidad debe integrarse en la estrategia de despliegue desde el primer día, no tratarse como una adaptación futura. Eso significa priorizar la inclusión no solo en los datos, sino también en la prestación, y reconocer que un despliegue inclusivo es la base para conjuntos de datos inclusivos. Porque, en última instancia, donde elegimos desplegar la IA envía un mensaje sobre a qué salud valoramos y de qué datos consideramos que vale la pena aprender. Y para aquellos de nosotros que construimos el futuro de la atención médica, esa elección nunca debería ser una ocurrencia tardía.
Foto: Klaus Vedfelt, Getty Images
Dedi Gilad es CEO y cofundador de TytoCare, transformando la industria de la atención primaria llevando las consultas médicas al hogar mediante exámenes físicos remotos que brindan una atención primaria asequible, siempre disponible y accesible para todos. TytoCare colabora con aseguradoras y proveedores de salud para ofrecer un mejor acceso a la atención primaria de forma virtual, con un kit de examen portátil que conecta a los usuarios con un médico para un examen médico y una visita de telesalud sin importar dónde se encuentren.
En la década desde que cofundó la empresa, el Sr. Gilad ha liderado el lanzamiento y consolidación de TytoCare como un actor principal en el mercado de la telesalud. Bajo su liderazgo, la compañía ha establecido alianzas con casi 250 importantes actores de la salud en todo el mundo. El Sr. Gilad y TytoCare han sido reconocidos como líderes en el mercado de la telesalud, con premios de ATA, Fast Company, MEDICA, Forbes y otros, y han demostrado una trayectoria de mejora en el acceso a la atención médica y una mayor adopción y mejores resultados en telesalud en comparación con otras soluciones del mercado.
Esta publicación aparece a través del programa MedCity Influencers. Cualquier persona puede publicar su perspectiva sobre negocios e innovación en healthcare en MedCity News a través de MedCity Influencers. Haga clic aquí para saber cómo.