El sector sanitario lidera en atraer inversiones en IA, yendo más allá de la investigación y desarrollo de fármacos hacia el análisis químico, el análisis de datos y la mejora en la reclutación de ensayos clínicos. Sin embargo, a pesar del aumento en las inversiones, muchas organizaciones de salud, farmacéuticas, biotecnológicas y de ciencias de la vida encuentran difícil llevar sus casos de uso de IA a producción.
Los procesos ineficientes y fragmentados generan un entorno propicio para el fracaso. Estas fallas operativas también dificultan reconocer cómo un marco de gobernanza de IA puede ayudar a las empresas a mantenerse al ritmo de la innovación, obtener visibilidad sobre iniciativas y reducir riesgos.
Incluso si tu organización logra desarrollar casos de uso viables, llevar un proyecto de IA generativa a producción toma tiempo, lo que se traduce en costos — sin mencionar los sistemas y procesos fragmentados, que son solo uno de los muchos desafíos para adoptar la gobernanza de IA.
Parece que el tiempo — siendo dinero — y la gobernanza están en conflicto. Para cualquier empresa, demostrar el retorno de inversión (ROI) sigue siendo prioritario. La presión constante por generar valor y ventajas competitivas lleva al error de pensar que omitir la gobernanza de IA ahorrará tiempo y acelerará el progreso. Pero establecer una gobernanza sólida garantiza que las tecnologías de IA se implementen de manera segura, ética y efectiva.
Por eso, una documentación clara y consistente brinda a los líderes la información crucial para mejorar la transparencia y la toma de decisiones. Imagina las etiquetas nutricionales: esos datos en la parte trasera de una caja de cereales o bolsa de papas que revisas para decidir rápidamente si el contenido de grasa, azúcar o sodio está dentro de tus límites antes de comprarlo. Las iniciativas de IA deberían ofrecer ese mismo nivel de transparencia.
Al igual que una etiqueta nutricional, una model card aplicada proporciona a los tomadores de decisión un resumen de la iniciativa de IA, su uso previsto, sesgos, riesgos, advertencias, metadatos, seguridad, datos de mantenimiento y métricas de rendimiento, equidad y fiabilidad. El éxito consiste en cerrar la brecha entre equipos técnicos (dueños de soluciones, desarrolladores), ejecutivos y cumplimiento, y usuarios finales (pacientes, profesionales sanitarios), ofreciendo:
- Mayor transparencia: pacientes y proveedores obtienen más información sobre cómo la IA influye en diagnósticos, recomendaciones de tratamiento o asignación de recursos.
- Mayor confianza: riesgos de sesgo documentados, usos previstos y limitaciones aumentan la seguridad de que la IA es justa, ética y médicamente sólida.
- Seguridad mejorada: garantiza que las herramientas cumplan estándares clínicos antes del despliegue, reduciendo riesgo de diagnósticos erróneos o tratamientos inapropiados.
- Innovación acelerada: documentación estandarizada agiliza aprobaciones regulatorias y validación clínica, permitiendo acceso más rápido a innovaciones impulsadas por IA.
La Coalition for Health AI (CHAI), que promueve el desarrollo responsable de IA en salud, afirma que una model card (la "etiqueta nutricional" para IA) es clave en todo el ciclo de vida de la IA — no solo en producción. Ayuda a garantizar consistencia, claridad sobre soluciones propuestas, documenta usos previstos, datos, metadatos y riesgos en desarrollo, actualiza cambios durante revisión y validación, y facilita información clara en producción y monitorización.
Tener procesos manuales y múltiples genera riesgos e ineficiencias, dificultando un enfoque estandarizado de gobernanza de IA. La falta de automatización estandarizada ralentizará esfuerzos de cumplimiento más adelante, retrasando el lanzamiento al mercado. Por otro lado, operacionalizar la gobernanza de IA automatizando documentación mejora transparencia y colaboración entre departamentos, acelerando innovación y ROI.
Considerando que hasta el 80% de empresas tienen 50 casos de uso de IA generativa en desarrollo, pero pocos llegan a producción, hay margen para optimizar el proceso. Un despliegue más rápido es posible, empezando por mejor gobernanza: agilizando la incorporación de proyectos, clarificando responsabilidades, estandarizando y automatizando documentación para mayor eficiencia, y escalando estas prácticas para reducir riesgos e impulsar adopción.
Quienes entiendan que la gobernanza de IA es un facilitador de innovación podrán alinear prioridades empresariales con inversiones en IA — decidiendo qué modelos acelerar y cuáles retirar — posicionándose mejor para lograr ROI. Cuanto antes las organizaciones sanitarias vean la gobernanza como catalizador de innovación, confianza y transparencia, antes obtendrán eficiencias y velocidad de lanzamiento, creando ventajas competitivas.
Crédito foto: MR.Cole_Photographer, Getty Images
Pete Foley es CEO de ModelOp, software líder en automatización y gobernanza del ciclo de vida de IA diseñado para empresas. Permite llevar iniciativas de IA — desde GenAI y machine learning hasta modelos de regresión — al mercado más rápido, con escalabilidad y control integral.
Este artículo forma parte del programa MedCity Influencers. Cualquier persona puede publicar su perspectivas sobre negocios e innovación en salud en MedCity News a través de este programa. Descubre cómo aquí.