La investigación realizada por Jee Young Kim, Alifia Hasan, Jacqueline Kueper, Terence Tang, Chris Hayes, Benjamín Fine, Suresh Balu y Mark Sendak se centra en la implementación del marco de Personas, Procesos, Tecnología y Operaciones (PPTO) para fortalecer la gobernanza de la inteligencia artificial (IA) en un importante sistema hospitalario canadiense que se encuentra en las etapas iniciales de adopción de la IA.
Identificación de fortalezas y necesidades
Mediante la realización de entrevistas con las partes interesadas, se lograron identificar tanto las fortalezas como las deficiencias y prioridades de la organización en relación con la gobernanza de la IA. Este proceso permitió recopilar información clave sobre el nivel de preparación institucional y las necesidades específicas para avanzar hacia una gobernanza efectiva de la IA.
Adaptación contextual del marco PPTO
Posteriormente, se organizaron talleres de codiseño orientados a adaptar el marco PPTO al contexto particular de la organización. Estos talleres fomentaron la participación activa de los involucrados y permitieron ajustar las directrices del marco para responder a los desafíos y objetivos específicos de la institución.
Resultados y contribución práctica
El trabajo conjunto derivó en la creación de políticas internas y en la formación de un comité de gobernanza de la IA, lo que consolidó la estructura necesaria para supervisar el desarrollo y uso responsable de esta tecnología dentro de la organización. Este proceso demuestra que el marco PPTO es una herramienta flexible y útil para establecer la gobernanza de la IA en escenarios de atención sanitaria reales.
Relevancia y evidencia empírica
Además, el estudio aborda una brecha relevante en el campo al proporcionar evidencia empírica sobre la implementación de un marco conceptual de gobernanza de la IA, facilitando el cambio organizacional en entidades dedicadas a la prestación de servicios sanitarios.
Jee Young Kim , Alifia Hasan ,Jacqueline Kueper , Terence Tang ,Chris Hayes ,Benjamín Fine , Suresh Balu y Mark Sendak
Esta investigación aplica el marco de Personas, Procesos, Tecnología y Operaciones (PPTO) para desarrollar la gobernanza de la IA en un gran sistema hospitalario canadiense que se encuentra en las primeras etapas de la adopción de la IA. Mediante entrevistas con las partes interesadas, se identificaron las fortalezas, las deficiencias y las prioridades de la organización en materia de gobernanza de la IA, lo que proporcionó información fundamental sobre su preparación y necesidades. Posteriormente, se realizaron talleres de codiseño para adaptar el marco PPTO al contexto específico de la organización. En conjunto, estos esfuerzos condujeron a la creación de políticas y a la formación de un comité de gobernanza de la IA dentro de la organización. Este trabajo demuestra que el marco PPTO es una herramienta práctica y adaptable para desarrollar la gobernanza de la IA en entornos sanitarios reales. Además, aborda una importante laguna en el campo al generar evidencia empírica sobre cómo se puede implementar un marco conceptual de gobernanza de la IA en organizaciones de prestación de servicios sanitarios para impulsar el cambio organizacional.
Introducción
La inteligencia artificial (IA) tiene el potencial de transformar la prestación de servicios sanitarios al mejorar tanto los resultados clínicos como los operativos. Las soluciones de IA proporcionan a los profesionales sanitarios información basada en datos para respaldar la toma de decisiones clínicas y optimizar la atención al paciente. Por ejemplo, pueden predecir enfermedades para una intervención más temprana, analizar imágenes médicas para detectar afecciones en sus fases iniciales, personalizar tratamientos y facilitar un seguimiento más eficiente <sup> 1,2,3,4 </sup> . Al automatizar tareas administrativas —como la programación de citas, la facturación y la documentación— la IA mejora la eficiencia operativa, lo que permite a los profesionales sanitarios priorizar la atención al paciente y minimizar las ineficiencias<sup> 5,6 </sup> . Estos avances pueden reducir las hospitalizaciones innecesarias, disminuir la necesidad de tratamientos extensos y crear una experiencia sanitaria más centrada en el paciente. Se prevé que la adopción de la IA genere importantes ahorros para los sistemas sanitarios, con estimaciones que alcanzan los 150 000 millones de dólares estadounidenses para 2026<sup> 3 </sup> .
Aprovechando estos beneficios, se prevé una mayor adopción de la IA en la atención médica, con un creciente interés en su uso para el diagnóstico, el tratamiento y la gestión sanitaria<sup> 7</sup> . Este entusiasmo se refleja en el significativo aumento de los sistemas de IA aprobados por la Administración de Alimentos y Medicamentos (FDA) y en el creciente volumen de investigación relacionada con la IA. El número de sistemas de IA aprobados por la FDA ha crecido considerablemente desde 2010, con una fuerte aceleración a partir de 2018, alcanzando un máximo de 221 aprobaciones en 2023. En agosto de 2024, la FDA había autorizado un total de 950 dispositivos médicos con IA<sup> 8 </sup>. El Comité de Tecnología del Consejo Nacional de Ciencia y Tecnología estimó que la inversión del gobierno estadounidense en investigación y desarrollo relacionados con la IA fue de aproximadamente 1100 millones de dólares en 2015, con expectativas de aumentos sustanciales en los años siguientes<sup> 9</sup> . El número de publicaciones de investigación sobre IA en el ámbito sanitario se disparó de 3569 en 2010 a más de 50 000 en 2022<sup> 10</sup> . Las startups de salud relacionadas con la IA han visto un creciente interés de los inversores y de la financiación, y se prevé que el mercado de la IA alcance los 6.600 millones de dólares en 2021 11. Los acuerdos de IA centrados en la atención médica pasaron de menos de 20 en 2012 a casi 70 a mediados de 2016 12 .
Si bien se prevé un aumento en la adopción de la IA, su implementación actual sigue siendo limitada debido a diversos desafíos. Más allá del desarrollo de algoritmos de IA, su comercialización para uso clínico es una tarea excepcionalmente compleja <sup> 4,13 </sup> . Esto implica superar desafíos de implementación, como la obtención de una inversión significativa en financiación, la creación de infraestructura, la contratación de personal cualificado, el cumplimiento de la normativa y la integración en los flujos de trabajo clínicos <sup>14,15,16 </sup> . Más importante aún, implica abordar las preocupaciones éticas y de seguridad, incluyendo el sesgo algorítmico, la privacidad y seguridad de los datos y la transparencia <sup> 16,17</sup>. Por ejemplo, el sesgo algorítmico puede causar daño a los pacientes mediante diagnósticos erróneos, subdiagnósticos o un acceso desigual a los recursos para ciertos grupos demográficos<sup>18,19,20 </sup> . La recopilación y el uso de grandes conjuntos de datos generan inquietudes sobre las violaciones de la privacidad<sup> 18 </sup> . Además, la opacidad de las soluciones de IA dificulta la detección y la resolución de estos errores<sup> 18</sup> .
Para garantizar que las soluciones de IA se integren con éxito en la práctica clínica y ofrezcan los máximos beneficios con el mínimo riesgo, las organizaciones sanitarias deben gobernar la IA de forma proactiva. La gobernanza de la IA es un sistema de normas, prácticas, procesos y herramientas tecnológicas diseñado para asegurar el desarrollo, la implementación y el uso responsables de las tecnologías de IA<sup> 21</sup> . Una gobernanza sólida de la IA garantiza que las soluciones de IA sean transparentes, equitativas y se ajusten a las normas éticas y regulatorias. Mitiga los riesgos, protege la seguridad del paciente y apoya la integración responsable de la IA en la atención sanitaria<sup> 16</sup> .
Se han propuesto diversos marcos de gobernanza de la IA para guiar la adopción responsable de esta tecnología en el sector sanitario. El marco Tecnología-Organización-Entorno (TOE) explica cómo las organizaciones adoptan nuevas tecnologías considerando tanto factores internos —como las capacidades tecnológicas y los recursos organizativos— como factores externos, incluyendo la disponibilidad de tecnologías en el mercado y el entorno regulatorio<sup> 22</sup> . Si bien el marco TOE ofrece un enfoque holístico para comprender los múltiples factores que influyen en la adopción de tecnología a nivel organizativo, presenta limitaciones al aplicarse al establecimiento de la gobernanza de la IA. En primer lugar, se centra en la adopción —como la decisión de implementar una tecnología e integrarla en los flujos de trabajo— en lugar de la gobernanza, que implica establecer las políticas, las estructuras de supervisión y los mecanismos de rendición de cuentas necesarios para gestionar la tecnología de forma responsable a lo largo del tiempo. El marco hace hincapié en la identificación de facilitadores y barreras para la adopción de una tecnología específica, en lugar de proporcionar orientación sobre la gobernanza del amplio abanico de tecnologías implementadas en las organizaciones <sup> 23,24,25,26 </sup> . En segundo lugar, si bien el marco se ha aplicado en el sector sanitario, no se diseñó específicamente para este contexto, donde la complejidad normativa, la seguridad del paciente y la equidad son aspectos fundamentales. Su orientación general, de alto nivel y pensada para una aplicabilidad universal en diversos campos, carece de la especificidad necesaria para respaldar medidas concretas y viables para la implementación de estructuras de gobernanza en entornos sanitarios.
Se han desarrollado marcos de evaluación de riesgos a través de iniciativas federales de gobernanza de la IA, ya que comprender y gestionar los riesgos que plantea la IA son elementos fundamentales de dicha gobernanza<sup> 27</sup> . Por ejemplo, el Marco de Gestión de Riesgos de la IA (AI RMF) fue desarrollado por el Instituto Nacional de Estándares y Tecnología (NIST) de EE. UU. <sup>28</sup> , y la herramienta de Evaluación del Impacto Algorítmico (AIA) fue introducida por el Gobierno de Canadá<sup> 29</sup> . Estos marcos han obtenido reconocimiento internacional y se han aplicado en diversos sectores, incluido el sanitario. Sin embargo, su utilidad en las organizaciones de prestación de servicios sanitarios sigue siendo limitada, puesto que no fueron diseñados específicamente para este contexto y no ofrecen una guía práctica para establecer estructuras de gobernanza de la IA a nivel organizativo.
Además de los marcos generales, se han desarrollado marcos de gobernanza de la IA diseñados específicamente para el sector sanitario con el fin de abordar sus necesidades particulares. Sin embargo, estos marcos suelen hacer hincapié en principios éticos de alto nivel <sup>30,31,32</sup> o se centran en consideraciones técnicas relacionadas con el desarrollo, la implementación y el mantenimiento de algoritmos <sup> 33,34 </sup> . Estos marcos ofrecen una orientación limitada sobre cómo establecer y poner en práctica la gobernanza de la IA en entornos reales<sup> 27</sup> . Pocos estudios ofrecen información práctica sobre el proceso de establecimiento de la gobernanza de la IA en las organizaciones sanitarias.
Para abordar estas limitaciones en los marcos existentes, esta investigación aplica el nuevo marco de Personas, Procesos, Tecnología y Operaciones (PPTO) para establecer la gobernanza de la IA en una organización de atención médica<sup> 35</sup> . Basado en prácticas reales y experiencias de implementación, el marco identifica capacidades clave para establecer la gobernanza de la IA en una organización de prestación de servicios de salud a través de cuatro dominios principales: Personas, Procesos, Tecnología y Operaciones. El dominio de Personas especifica el personal necesario para la gobernanza de la IA, describiendo la estructura del comité de gobernanza de la IA, las áreas de especialización requeridas, las funciones y responsabilidades definidas y las estrategias para gestionar la composición del comité a lo largo del tiempo. El dominio de Procesos describe un proceso de gobernanza que equilibra la innovación con el riesgo, detallando los puntos de decisión clave a lo largo del ciclo de vida de la IA y la documentación asociada requerida. El dominio de Tecnología detalla la infraestructura y las capacidades técnicas necesarias para supervisar eficazmente las herramientas de IA durante todo su ciclo de vida. El dominio de Operaciones describe las capacidades organizativas necesarias para operacionalizar la gobernanza de la IA, incluyendo el patrocinio ejecutivo, la rendición de cuentas de las actividades del comité, la planificación presupuestaria y las métricas para evaluar la eficacia de la gobernanza.
El marco PPTO se seleccionó por su practicidad, exhaustividad y relevancia en el ámbito sanitario. Permite una evaluación sistemática y completa de las capacidades y los recursos necesarios para establecer la gobernanza de la IA. Al abordar no solo la tecnología de IA, sino también las personas, los procesos y las operaciones que la sustentan, el marco garantiza un enfoque holístico para gestionar las complejidades de la gobernanza de la IA.
Este estudio se guio por dos preguntas de investigación:
(1) ¿Es eficaz el marco PPTO para establecer la gobernanza de la IA en una organización de prestación de servicios sanitarios en la práctica? y
(2) ¿Qué estrategias y procesos respaldan la implementación exitosa del marco?
Aunque se han propuesto numerosos marcos de gobernanza de la IA, existe poca evidencia empírica que describa su implementación real en organizaciones de prestación de servicios sanitarios. Esta es una importante laguna en la literatura, ya que estas organizaciones adoptan cada vez más tecnologías de IA y se enfrentan a una creciente demanda de gobernanza eficaz para su uso. Este estudio aborda dicha laguna detallando la implementación del marco PPTO en uno de los mayores sistemas hospitalarios comunitarios afiliados a universidades en Canadá. Inicialmente, el sistema hospitalario —aún en las primeras etapas de la adopción de la IA— carecía de una estructura de gobernanza formal adaptada a la IA. Al construir un sistema de gobernanza de la IA desde cero utilizando un marco potencialmente escalable, este trabajo traduce conceptos abstractos en estrategias prácticas y ofrece un modelo replicable para otras organizaciones. Contribuye al limitado conjunto de guías prácticas sobre cómo establecer la gobernanza de la IA en entornos sanitarios reales.
Resultados
Estado actual de la adopción de IA
Las entrevistas revelaron una creciente demanda de uso de IA en la práctica clínica dentro de la organización. Si bien la adopción de IA era relativamente reciente en la organización, cinco productos de IA desarrollados por proveedores externos ya se habían implementado en el sistema de historia clínica electrónica (HCE) o en el sistema de archivo y comunicación de imágenes, y un producto adicional desarrollado por un proveedor se encontraba en evaluación local.
Capacidades existentes para la gobernanza de la IA
Las entrevistas revelaron las capacidades existentes de la organización en los ámbitos de Personas, Procesos y Tecnología para establecer un sistema de gobernanza de IA. El ámbito de Operaciones no se abordó debido a la ausencia de un sistema formal de gobernanza de IA.
En cuanto a las capacidades del personal, las entrevistas identificaron a varios actores clave que podrían proporcionar una base sólida para la gobernanza de la IA de la organización. Un equipo especializado de altos directivos de DHC, con experiencia estratégica, operativa, clínica e informática, fue identificado como el principal organismo responsable de supervisar las iniciativas de IA en la práctica clínica hasta que se establezca un comité formal de gobernanza de la IA. Si bien los miembros del equipo tenían experiencia limitada con las tecnologías de IA, se mostraron abiertos a ampliar su experiencia en gobernanza de la IA y demostraron un compromiso para adaptarse a las necesidades cambiantes de salud digital de la organización. Un responsable operativo de DHC comentó: «Estamos totalmente abiertos a ampliar lo que ya existe o a desarrollar algo externamente si es necesario».
Las entrevistas también revelaron otros actores clave esenciales para la implementación de la IA, como un comité empresarial que gestiona el presupuesto de software, líderes departamentales que supervisan las aprobaciones presupuestarias, los requisitos de calidad y el uso de la tecnología, representantes clínicos de los usuarios finales, equipos de TI responsables de la infraestructura técnica y la gestión de datos, científicos de datos que evalúan las soluciones de IA y proveedores externos que desarrollan dichas soluciones. En conjunto, estos grupos conforman una red de capacidades de Recursos Humanos para la gobernanza de la IA, que abarca la supervisión presupuestaria, el aseguramiento de la calidad, el soporte técnico y la participación de las partes interesadas.
En cuanto a las capacidades de los procesos, las entrevistas revelaron inconsistencias en las prácticas de gobernanza de la IA dentro de la organización. Si bien se identificaron prácticas tanto efectivas como inefectivas a lo largo de todo el ciclo de vida de la IA (Tabla 1 ), su aplicación fue inconsistente. Un profesional clínico señaló: «Es totalmente improvisado y quien dirige el proyecto decide si quiere hacer algo». Por ejemplo, aunque algunas buenas prácticas —como la evaluación de viabilidad, la participación de los clínicos en el diseño de soluciones y el establecimiento de canales de comunicación— se implementaron ocasionalmente, no se aplicaron de forma consistente en todos los proyectos. De igual manera, a veces se ejecutaban prácticas ineficaces, como la falta de tiempo y de procesos adecuados en las adquisiciones y una supervisión mínima, lo que generaba deficiencias en la gobernanza. Esta falta de uniformidad puso de manifiesto la necesidad de un enfoque más estructurado para garantizar una gobernanza de la IA fiable y efectiva en toda la organización.
| Etapa del ciclo de vida de la IA | prácticas efectivas | prácticas ineficaces |
| Identificación de problemas y adquisiciones | • Los problemas se identifican en toda la organización utilizando enfoques de arriba hacia abajo y de abajo hacia arriba. • Los problemas se priorizan en función de las preocupaciones organizativas y las prioridades estratégicas. • Se evalúa la viabilidad de la adopción. | • No existe una razón clara basada en evidencia para la adopción de la IA • Tiempo insuficiente para evaluar un problema y una solución • Falta de visibilidad y participación de las partes interesadas clave relevantes en el proceso de adquisición |
| Desarrollo y adaptación | • Participación de los profesionales clínicos en el diseño de un nuevo flujo de trabajo para la implementación de la IA con los proveedores y realización de pruebas de usabilidad • Se realizan pruebas piloto en un área pequeña antes de integrar completamente la solución. | • Dependencia excesiva del proveedor para el diseño y la validación de la solución • Sesiones puntuales con usuarios finales para el desarrollo de soluciones • Discusión limitada sobre los indicadores de éxito de los proyectos • Falta de validación y evaluación interna • Evaluación limitada de la equidad en salud y los sesgos • No existe un proceso de decisión sistemático para la implementación. |
| Integración clínica | • Se establecieron canales de comunicación para la gestión del cambio | • Dependencia excesiva del proveedor para la creación y el suministro de materiales de capacitación y formación. • Educación y explicación insuficientes sobre la solución de IA proporcionadas a los afectados por la adopción de la solución |
| gestión del ciclo de vida | • Realiza monitoreo técnico • Se establecieron canales de soporte al usuario final y un circuito de retroalimentación para recopilar comentarios de los usuarios. | • No existe un método sistemático para recopilar comentarios de los usuarios finales • Seguimiento insuficiente, especialmente el seguimiento de resultados • No existe un enfoque sistemático para actualizar o desmantelar la solución de IA o su ecosistema. |
En cuanto a las capacidades tecnológicas, las entrevistas revelaron que la organización cuenta con una sólida infraestructura de datos y una gran capacidad para respaldar las iniciativas de IA, con varios productos de IA de proveedores ya implementados. Los responsables técnicos informaron que los equipos de TI colaboraron con los proveedores para crear el conjunto de datos, la infraestructura adecuada y los servidores necesarios para la extracción de datos y la integración de modelos. Los equipos de TI extrajeron con éxito los datos del historial clínico electrónico (HCE), los compartieron con los proveedores para facilitar la adaptación y evaluación de los modelos según los acuerdos pertinentes, y los reintegraron al sistema del HCE. Además, supervisaron los procesos de anonimización y reidentificación de datos, garantizando el acceso seguro de los proveedores a los datos y manteniendo su confidencialidad.
Necesidades y requisitos para la gobernanza de la IA
Ante la falta de una gobernanza de IA establecida, las entrevistas pusieron de manifiesto un fuerte deseo de contar con un enfoque unificado. Los participantes expresaron unánimemente la necesidad de un proceso de gobernanza centralizado y estandarizado para garantizar la adopción segura, eficaz y ética de las tecnologías de IA. Un responsable operativo señaló que los distintos programas «tienden a centrarse en lo que hacen y a funcionar de forma autónoma, y se sienten prácticamente como una institución dentro de otra, en lugar de contar con un proceso centralizado». Un responsable técnico también se hizo eco de esta necesidad, afirmando: «Si tuviéramos un procedimiento operativo estándar para todos los productos que incorporamos, un procedimiento que todos conocieran y que se remitiera a un comité único para su evaluación, sin duda podríamos mejorar en este aspecto». Los participantes identificaron varios elementos clave esenciales para esta estructura de gobernanza, entre ellos, la definición clara de las funciones y responsabilidades de las partes interesadas, procesos de monitorización establecidos con métricas y frecuencia definidas, y criterios específicos para la desactivación de productos de IA.
También se destacó la importancia de la consulta ética, en particular para el seguimiento de las dimensiones de equidad en salud. Actualmente, las consultas éticas solo se exigen para proyectos de investigación clínica —no para herramientas de IA destinadas a la integración en la práctica clínica— debido a las estructuras organizativas y la novedad de la adopción de la IA. Esto puso de manifiesto una deficiencia en la implementación de soluciones de IA. Un responsable operativo con funciones éticas señaló: «Me sorprendió que no exista una consulta ética para la implementación de la IA. Creo que es de esperar que surjan desigualdades, ya que no recopilamos datos sobre raza ni género de forma rutinaria. Si no se dispone de los datos de las personas a las que se presta servicio, la herramienta en sí podría estar sesgada contra ciertos grupos, dependiendo de la procedencia del algoritmo». Los participantes abogaron por la colaboración entre expertos en ética de la IA e informáticos para identificar los posibles riesgos e impactos derivados de la adopción de la IA. Otro responsable operativo hizo hincapié en la necesidad de que «un experto en informática, un clínico y un experto en sistemas de historia clínica electrónica» trabajen conjuntamente. Del mismo modo, un profesional clínico destacó la importancia de “una responsabilidad conjunta porque hay cosas que el equipo técnico sabe que el equipo clínico desconoce, y viceversa”.
Si bien los participantes consideraron que el marco general de gobernanza de la IA podría reflejar la gobernanza existente para tecnologías ajenas a la IA, solicitaron mayor claridad sobre elementos específicos de la supervisión de la IA. La tabla 2 presenta citas seleccionadas de las entrevistas.
Desarrollo de las capacidades de las personas para la gobernanza de la IA
Los talleres de codiseño condujeron a la creación de una gobernanza de IA adaptada específicamente a las necesidades y requisitos de la organización. Los participantes indicaron unánimemente que el comité de gobernanza de IA debería ser un subcomité que reportara directamente al Director de Salud Comunitaria (DHC), aprovechando la experiencia de sus miembros y facilitando una implementación más fluida, en lugar de una entidad de nueva creación. También sugirieron unánimemente que la composición del comité de gobernanza de IA se revisara y actualizara anualmente, conforme al proceso de gobernanza estándar de la organización. Los participantes consideraron relevantes a los actores clave descritos en el marco PPTO 20 , con roles y responsabilidades claramente definidos. Valoraron especialmente la inclusión de la consulta ética a través del subcomité de ética y asuntos legales, que abordó las necesidades identificadas en las entrevistas. Los participantes recomendaron añadir una responsabilidad al comité de gobernanza de IA en general: garantizar el retorno de la inversión, responsabilidad que no se había incluido originalmente en el marco.
Los participantes destacaron que todas las partes interesadas, independientemente de su función, deben poseer conocimientos técnicos básicos, especialmente en lo relativo a los sistemas de historia clínica electrónica (HCE). Asimismo, señalaron que, si bien los expertos técnicos e informáticos se centrarían principalmente en los ámbitos técnicos, también deberían tener una comprensión fundamental de los flujos de trabajo clínicos para favorecer la alineación sociotécnica.
Dadas las habilidades, la experiencia, las funciones y las responsabilidades de los miembros del comité de gobernanza de IA descritas en el marco PPTO 20 , los participantes propusieron a varios candidatos para integrar dicho comité. Asimismo, sugirieron que, antes de seleccionar a los candidatos, es fundamental establecer y documentar las expectativas para los miembros del comité. Entre las consideraciones clave se incluyen el tiempo que se espera de ellos, la disponibilidad de personal a tiempo completo para supervisar las operaciones de gobernanza de IA y si recibirán una compensación por sus servicios, así como la estructura de dicha compensación.
Desarrollo de capacidades de proceso para la gobernanza de la IA
El dominio de Procesos fue el área más crítica a abordar, ya que estructura el sistema de gobernanza de la IA y subraya la necesidad de un proceso de gobernanza centralizado y estandarizado, aspecto que se enfatizó en las entrevistas. Los participantes destacaron la importancia de equilibrar estructura e innovación para garantizar que el proceso de gobernanza respalde la implementación de la IA sin demoras innecesarias. Respondieron positivamente al proceso descrito en el marco PPTO 20 , considerándolo práctico y alineado con las necesidades de la organización. Por ejemplo, valoraron la inclusión de un inventario centralizado de algoritmos y un proceso de gestión del ciclo de vida, ambos ausentes actualmente en la organización.
Entre las principales conclusiones de los talleres se incluyeron la clarificación del alcance de la gobernanza de la IA y la definición de los límites de aplicación del comité de gobernanza de la IA. Si bien los participantes apoyaron la estratificación de los niveles de supervisión según el riesgo asociado a cada producto —abogando por un examen más riguroso de la IA de alto riesgo en comparación con la de bajo riesgo—, se constató que lograr un consenso sobre el ámbito de la gobernanza de la IA era complejo. Por ejemplo, los participantes debatieron si los productos de IA utilizados con fines no clínicos —como la investigación clínica, la facturación y la programación—, así como los productos aprobados a nivel federal, debían estar sujetos a gobernanza. Las opiniones variaron considerablemente. En última instancia, los participantes coincidieron en que el nivel de riesgo de un producto de IA depende del caso de uso específico. Incluso si un producto de IA cumple con las regulaciones y estándares establecidos por las autoridades sanitarias u organismos reguladores, si interactúa directamente con los pacientes o influye en las decisiones sobre su atención, debe estar completamente regulado.
Los participantes también trabajaron para diferenciar las responsabilidades del comité de gobernanza de IA de las de los departamentos individuales involucrados en la adopción de IA. Esta actividad resultó compleja, ya que muchos creían inicialmente que el comité de gobernanza debía supervisar todas las actividades relacionadas con la IA, incluyendo los propios esfuerzos de adopción. Sin embargo, se les recordó que la función del comité es supervisar —garantizando que las iniciativas de IA sean éticas y responsables— en lugar de liderar directamente la implementación. Sin límites claros, el comité corría el riesgo de verse desbordado y volverse ineficiente. Se llegó al consenso de que los departamentos individuales deberían ser responsables de abordar cuestiones operativas específicas, como las necesidades clínicas, la alineación con las prioridades del negocio, la viabilidad, el presupuesto, la interoperabilidad, el impacto en el flujo de trabajo y la fuerza laboral, la satisfacción del personal clínico y la propiedad del producto. En cambio, el comité de gobernanza de IA es responsable de alinear el uso de la IA con los principios organizacionales generales, incluyendo la seguridad, la eficacia, la equidad, la privacidad, el cumplimiento normativo y la integración con la hoja de ruta de TI de la organización.
Desarrollo de capacidades tecnológicas para la gobernanza de la IA
Los participantes consideraron relevante la infraestructura tecnológica descrita en el marco PPTO 20 y acordaron utilizarla para analizar las deficiencias de su sistema actual. Designaron equipos externos al comité de gobernanza de IA para que se responsabilizaran de finalizar las especificaciones de las capacidades técnicas y la infraestructura. Por ejemplo, propusieron la colaboración entre un equipo de sistemas clínicos e informática y un equipo de negocios. Informaron que esta colaboración, que aúna experiencia clínica, técnica y de negocios, garantizaría la selección de elementos de datos apropiados y de alta calidad para los modelos de IA, una documentación exhaustiva de los procesos de uso de datos, las aprobaciones pertinentes para la utilización de datos y la alineación con los objetivos comerciales. Además, recomendaron que estos equipos externos se responsabilizaran de la propiedad y la puesta en marcha de las capacidades técnicas y la infraestructura durante todo el ciclo de vida de la IA. En cuanto a los costos, los participantes observaron la ausencia de un plan operativo explícito para cubrir los costos recurrentes de las capacidades técnicas y la infraestructura necesarias para respaldar el ciclo de vida de la IA. Indicaron que la cobertura de costos probablemente dependería del caso de uso específico de la IA y de la disponibilidad de fuentes de financiamiento.
Desarrollo de capacidades operativas para la gobernanza de la IA
Los participantes consideraron relevantes las estrategias operativas descritas en el marco PPTO<sup> 20 </sup>. Reconocieron la necesidad de un presupuesto específico para la puesta en marcha del sistema de gobernanza de la IA. Posteriormente, propusieron indicadores clave de éxito para evaluar la eficacia de la gobernanza de la IA y priorizaron la confianza, la satisfacción del usuario, la eficiencia, el cumplimiento normativo y la mitigación de riesgos como medidas fundamentales.
Para una comunicación e implementación exitosas del sistema de gobernanza de la IA, los participantes destacaron unánimemente la importancia de crear una documentación exhaustiva del sistema, junto con materiales educativos. Propusieron difundirlos en toda la organización utilizando los procesos y canales de comunicación estándar existentes.
Para integrar eficazmente las perspectivas de los pacientes en el desarrollo de la IA y atender sus necesidades, los participantes propusieron incorporar asesores de pacientes al comité de gobernanza de la IA, colaborar con el Equipo de Experiencia del Paciente y aprovechar las aportaciones del Consejo Asesor de Pacientes y Familias. Este enfoque también busca establecer un sistema transparente para compartir información con pacientes y comunidades, reflejando sus necesidades en la gobernanza de la IA.
Comentarios del taller
Al concluir los talleres, los participantes compartieron lo que les resultó más valioso y ofrecieron sugerencias para futuras mejoras. Agradecieron haber aprendido sobre los diversos pasos que deben considerar en la organización y valoraron el diálogo abierto con expertos. Un participante destacó el enfoque participativo integral y las discusiones prácticas, señalando que estos aspectos fueron particularmente útiles para impulsar el diálogo. Como sugerencia para futuros talleres, los participantes expresaron interés en conocer más buenas prácticas o políticas y procedimientos hospitalarios vigentes, especialmente de sistemas de salud con sistemas de gobernanza menos avanzados.
Implementación de políticas y cambio organizacional
Como resultado final de este estudio, los participantes del taller formularon políticas organizacionales sobre la gobernanza de la IA, las cuales fueron posteriormente adoptadas formalmente por la institución. Utilizando el marco PPTO como guía, las políticas definieron las personas, los procesos, la tecnología y las operaciones necesarias para la gobernanza de la IA y se estructuraron de acuerdo con el marco de políticas estándar de la organización. El proceso de desarrollo de políticas se enfrentó a varios desafíos. Uno de los principales fue equilibrar los principios fundamentales con la necesidad de políticas prácticas y viables. Las políticas debían ser lo suficientemente sencillas para su implementación, a la vez que proporcionaban una supervisión adecuada de los riesgos relacionados con la IA. Los participantes buscaron evitar obstaculizar la adopción de la IA o dar la impresión de frenar la innovación, y en su lugar, lograr un equilibrio entre impulsar el progreso y garantizar la seguridad. La limitada experiencia en IA entre las partes interesadas clave añadió otra dificultad, lo que requirió esfuerzos para asegurar que las políticas fueran accesibles y aplicables para los responsables de su implementación. En respuesta a este desafío, los participantes mantuvieron debates detallados sobre la viabilidad y las estrategias para construir un sistema de gobernanza más sólido a lo largo del tiempo. Como primer paso, refinaron algunas de las capacidades identificadas durante los talleres, creando una versión simplificada con menos pasos y menor complejidad. En octubre de 2024, la organización aprobó las políticas y, como resultado, se estableció con éxito un comité de gobernanza de IA en consonancia con las recomendaciones políticas.
Los líderes de la organización acordaron establecer el comité como un subcomité dentro del DHC existente, al que ya estaban afiliados todos los participantes del taller. El comité de gobernanza de IA se estructuró bajo el liderazgo de un ejecutivo y un líder clínico, e incluyó subcomités que representaban a una amplia gama de partes interesadas. Estos subcomités contaban con expertos en los ámbitos clínico, técnico, ético y de investigación, así como con representantes de pacientes, lo que garantizó un enfoque integral e inclusivo de la gobernanza de la IA. Tras su establecimiento, el comité de gobernanza de IA se dedicó a perfeccionar las políticas. Este proceso incluyó pruebas iterativas de las políticas con diversos casos de uso de IA para asegurar su aplicabilidad y eficacia en escenarios reales. El comité de gobernanza de IA establecido liderará y guiará la adopción de la IA dentro de la organización en adelante.
Discusión
Este estudio demuestra cómo un marco conceptual de gobernanza de la IA —el marco PPTO— puede traducirse en estrategias prácticas dentro de un entorno real de prestación de servicios sanitarios. Mediante un enfoque de investigación de caso práctico, colaboramos con actores clave de un sistema hospitalario canadiense a través de entrevistas y talleres de diseño participativo. Las entrevistas con los actores clave identificaron las fortalezas, las carencias y las prioridades existentes en materia de gobernanza de la IA, lo que proporcionó información fundamental sobre la preparación y las necesidades de la organización. Los talleres de diseño participativo posteriores adaptaron e implementaron el marco PPTO<sup> 20</sup> para reflejar la estructura y el entorno de recursos únicos del sistema hospitalario. En conjunto, estos métodos cualitativos desempeñaron un papel fundamental en la adaptación y la puesta en práctica de la gobernanza de la IA de una manera contextualmente relevante y práctica.
Esta investigación ofrece contribuciones tanto teóricas como prácticas, en consonancia con los llamamientos en la literatura sobre gobernanza de la IA para ir más allá de los principios aspiracionales y avanzar hacia la implementación práctica<sup> 36</sup> . Teóricamente, aborda una importante laguna en la literatura al generar evidencia empírica de la implementación real de marcos de gobernanza de la IA, un área donde la mayoría de los estudios siguen siendo conceptuales. En concreto, ofrece la primera evidencia de la implementación práctica del marco PPTO. Prácticamente, el estudio ilustra cómo los principios de gobernanza de alto nivel pueden traducirse sistemáticamente en estructuras, procesos, tecnologías y acciones operativas concretas. En respuesta a la primera pregunta de investigación, el marco PPTO resultó eficaz para guiar el desarrollo de una estructura de gobernanza de la IA dentro de un entorno sanitario complejo. Esta investigación apoya y amplía el marco PPTO al validar su utilidad y relevancia prácticas, a la vez que demuestra su adaptabilidad a diversos contextos organizativos y distintos niveles de madurez de la IA. Con respecto a la segunda pregunta de investigación, el estudio subraya el valor de diversos enfoques cualitativos —en particular, encuestas, entrevistas y talleres de codiseño— para impulsar el cambio organizativo y dar forma a los sistemas de gobernanza. Los métodos cualitativos se utilizan ampliamente para explorar las experiencias, los retos y las necesidades de las partes interesadas en la adopción de la IA<sup> 37 , 38 , 39</sup> . Estos métodos también han demostrado ser eficaces para apoyar el cambio organizacional en el sector sanitario. Por ejemplo, un sistema hospitalario codiseñó un modelo de liderazgo basado en equipos en colaboración con equipos sanitarios y pacientes, utilizando diversos métodos cualitativos, como entrevistas en profundidad y encuestas en línea. El modelo, que hace hincapié en la distribución compartida de las funciones y responsabilidades de liderazgo entre los miembros del equipo, se implementó con éxito en el sistema hospitalario<sup> 40</sup> .
De este trabajo surgieron varias ideas e implicaciones clave. En primer lugar, los resultados confirman que el marco PPTO<sup> 35</sup> es una herramienta útil y adaptable para establecer una gobernanza de IA en organizaciones sanitarias reales. Este marco ayuda a las organizaciones a identificar las capacidades necesarias en los ámbitos de personas, procesos, tecnología y operaciones, así como a evaluar las deficiencias, planificar las inversiones y avanzar hacia una implementación sostenible. Los resultados también demuestran el potencial del marco para una mayor transferibilidad a diversos contextos. El marco PPTO, desarrollado inicialmente en una gran organización de prestación de servicios sanitarios de EE. UU., se aplicó con éxito en un gran sistema hospitalario canadiense. Las organizaciones que buscan comprender e implementar la gobernanza de IA pueden encontrar valiosos estos resultados y considerar la experiencia compartida con el marco PPTO como un modelo valioso para sus propias iniciativas.
En segundo lugar, el establecimiento de una gobernanza sólida de la IA debe comenzar con una comprensión clara de las necesidades locales y un esfuerzo deliberado por definir los requisitos específicos de la organización. Este proceso debe ser inclusivo y participativo, involucrando a las partes interesadas con diversos conocimientos y experiencia en todos los niveles y funciones de la organización, incluyendo a quienes son responsables de la ejecución de la gobernanza. Dicha participación no solo garantiza que el sistema de gobernanza esté alineado con la realidad de la organización, sino que también fomenta una mayor aceptación por parte de toda la organización. Al incorporar las diversas voces de las partes interesadas, es más probable que los sistemas de gobernanza sean eficaces, relevantes y éticamente sólidos.
En tercer lugar, el desarrollo de la gobernanza de la IA es inherentemente colaborativo. Requiere la toma de decisiones compartida y el diálogo abierto, especialmente en entornos donde el conocimiento sobre IA aún está en desarrollo y donde las jerarquías organizacionales pueden limitar la participación. Crear espacios seguros para la participación y valorar las perspectivas de todas las partes interesadas permite a las organizaciones construir sistemas de gobernanza más reflexivos, inclusivos y receptivos. Esto es especialmente importante porque las interacciones iniciales entre partes interesadas de diversos orígenes y áreas de especialización a menudo pueden generar aprensión<sup> 41</sup> . Diversos métodos de investigación cualitativa, como encuestas, entrevistas y talleres de diseño participativo, pueden ser fundamentales para facilitar este proceso colaborativo<sup> 40</sup> . Estos métodos proporcionan formatos estructurados pero flexibles para compartir, recopilar y sintetizar diversas perspectivas.
Por último, fortalecer la capacidad de gobernanza de la IA requiere inversiones en formación sobre IA en el ámbito sanitario. A medida que las tecnologías de IA se generalizan en la atención médica, las partes interesadas deben adquirir los conocimientos fundamentales para tomar decisiones informadas, identificar y mitigar riesgos, y superar con éxito los retos de la implementación. La formación sobre los fundamentos técnicos, las aplicaciones clínicas, los riesgos y las consideraciones éticas de la IA capacita a las partes interesadas para participar activamente en las iniciativas de gobernanza y fomenta la responsabilidad, la transparencia y la confianza a largo plazo.
Si bien este estudio se centró en un único sistema de salud, futuras investigaciones podrían aplicar el marco PPTO<sup> 20</sup> a múltiples organizaciones de atención médica de diversos tamaños y estructuras para evaluar su aplicabilidad más amplia. Los estudios comparativos podrían ayudar a determinar si la aplicabilidad y la eficacia del marco se mantienen constantes en diferentes contextos, como entornos rurales y urbanos o grandes centros médicos académicos frente a clínicas más pequeñas. Asimismo, se podría explorar la relevancia del marco en organizaciones ubicadas en diferentes regiones geográficas y que operan bajo distintos modelos de pago, como el sistema público de salud de Canadá frente al sistema de seguros privados de Estados Unidos.
Las investigaciones futuras podrían examinar la eficacia y la sostenibilidad a corto y largo plazo de los sistemas de gobernanza de la IA. Los estudios podrían investigar cómo evolucionan estos sistemas con el tiempo, cómo se adaptan a los cambios en la tecnología de la IA y cómo mantienen su capacidad para garantizar un uso seguro y ético de la IA en la atención sanitaria. Los estudios podrían incluir el desarrollo de métodos para evaluar la eficacia de la gobernanza de la IA a la hora de garantizar una implementación ética, equitativa y segura de la IA tanto a corto como a largo plazo.
Métodos
Descripción general
El estudio empleó una metodología de investigación-acción, combinando elementos de la investigación-acción y el estudio de caso. Mediante entrevistas con las partes interesadas y una serie de talleres de diseño participativo, colaboramos con los participantes para implementar el marco PPTO e impulsar el cambio organizacional, plasmando los principios de la investigación-acción. Asimismo, el estudio se centró en una organización específica y sus iniciativas de gobernanza de la IA, reflejando el enfoque de estudio de caso.
Los objetivos principales de las entrevistas fueron comprender a fondo el estado actual de la adopción de la IA dentro de la organización y evaluar las capacidades actuales y las necesidades futuras para la gobernanza de la IA. Las entrevistas examinaron los procesos existentes para la adopción de soluciones de IA, identificaron a las partes interesadas o comités clave involucrados en la adopción de la IA y exploraron la infraestructura técnica actual que respalda estas iniciativas. Estos objetivos constituyen los pasos fundamentales para desarrollar un sistema sólido de gobernanza de la IA dentro de la organización.
Los objetivos principales de los talleres de codiseño fueron adaptar el marco PPTO a las características y necesidades específicas de la organización 20. Un comité de liderazgo superior, con roles potencialmente relevantes para el futuro sistema de gobernanza de IA, desempeñó un papel central en el codiseño del marco adaptado para garantizar que fuera relevante y práctico dentro del contexto organizacional.
Este estudio se consideró un proyecto de mejora de la calidad sin la participación de datos de sujetos humanos. Las entrevistas y los talleres fueron informativos y se centraron en los procesos y las actividades de la organización. Por lo tanto, no se requirió la aprobación del comité de ética. Todos los participantes dieron su consentimiento verbal para participar en el estudio y para que sus datos anonimizados se utilizaran en los análisis cualitativos.
Parte 1: Entrevistas con las partes interesadas
Se reclutaron trece participantes de toda la organización. En promedio, los participantes contaban con 15,85 años de experiencia y aportaban conocimientos técnicos ( n = 6), operativos ( n = 4) y clínicos ( n = 3) (Tabla 3 ). Los participantes técnicos eran desarrolladores de tecnología y administradores de infraestructura de TI; los operativos, personal de gestión de operaciones y ética de la investigación; y los clínicos, profesionales sanitarios de primera línea. Se utilizó un muestreo intencional para recabar información de los principales participantes involucrados en la adopción de soluciones de IA existentes. Para ampliar la representación, también se empleó un muestreo en cadena, invitando a los participantes a recomendar a otras personas con perspectivas valiosas y relevantes. Para mitigar posibles sesgos, se garantizó una representación diversa en los ámbitos clínico, técnico y operativo, los niveles organizativos y los años de experiencia. El reclutamiento continuó hasta alcanzar la saturación temática.
Los participantes participaron en entrevistas individuales semiestructuradas en profundidad. Se elaboró una guía de entrevista y se les preguntó sobre las prácticas de gobernanza actuales para las soluciones de IA, así como sobre las necesidades futuras de gobernanza, a lo largo de cuatro etapas del ciclo de vida de la IA: (1) adquisición, (2) desarrollo y adaptación, (3) integración clínica y (4) gestión del ciclo de vida<sup> 15</sup> . Las preguntas de la guía examinaron los procesos existentes para la adopción de la IA, identificaron a las partes interesadas o comités clave involucrados en dicha adopción y exploraron la infraestructura técnica actual que respalda la implementación de la IA (Nota complementaria 1 ).
Todas las entrevistas se realizaron a través de Zoom y tuvieron una duración de entre 30 minutos y una hora. Se grabaron y posteriormente se transcribieron para su análisis mediante Otter.ai, un software de transcripción automática. Este estudio se consideró una iniciativa de mejora de la calidad y no implicó la recopilación de datos identificables de participantes humanos. Por lo tanto, estuvo exento de la aprobación del Comité de Ética de la Investigación (CEI). Todos los participantes otorgaron su consentimiento informado verbal para participar en las entrevistas, para que estas se grabaran y para permitir el uso de datos anonimizados en el análisis cualitativo. Para analizar las transcripciones y extraer las ideas clave, utilizamos un proceso de codificación y realizamos un análisis temático en NVivo, un software de análisis de datos cualitativos. Se empleó un enfoque híbrido que combinó el análisis temático inductivo y deductivo. El enfoque inductivo permitió explorar diversos aspectos del sistema de gobernanza existente y capturar los temas emergentes, mientras que el enfoque deductivo organizó estos temas utilizando el marco PPTO para evaluar las capacidades del sistema de gobernanza en los dominios de Personas, Procesos, Tecnología y Operaciones.
Parte 2: Talleres de codiseño
Reclutamos un equipo de cinco miembros del equipo directivo superior, encargados de supervisar el sistema de gobernanza de la IA, para participar en una serie de talleres de diseño participativo. Eran miembros del comité de salud digital (CSD) existente y gestionaban proyectos con componentes digitales en la práctica clínica dentro de la organización. Contaban con una experiencia promedio de 19,60 años y aportaban conocimientos especializados en los ámbitos operativo ( n = 3), técnico ( n = 1) y clínico ( n = 1).
Para preparar a los participantes para los talleres y garantizar que todas sus voces estuvieran representadas, realizamos una encuesta en línea y entrevistas semiestructuradas. La encuesta contenía preguntas abiertas sobre prácticas aspiracionales y decisiones clave para la gobernanza de la IA en los ámbitos de Personas, Procesos, Tecnología y Operaciones (Nota complementaria 2 ). Posteriormente, revisamos las respuestas de los participantes a la encuesta y realizamos entrevistas individuales de seguimiento para comprender mejor sus necesidades y prioridades para el sistema de gobernanza de la IA descrito en sus respuestas. Formulamos preguntas aclaratorias y exploramos cualquier inquietud planteada. Todas las entrevistas se realizaron a través de Zoom y tuvieron una duración de 30 minutos. Si bien las entrevistas no se grabaron, se tomaron notas detalladas durante todo el proceso.
Tras recopilar datos mediante encuestas y entrevistas, los organizamos y visualizamos en una pizarra virtual colaborativa. Todas las respuestas de las encuestas se anonimizaron y se mostraron como notas adhesivas, organizadas por pregunta. Las conclusiones de las entrevistas se sintetizaron mediante análisis de contenido, donde cada respuesta se revisó y agrupó por temas recurrentes, destacando patrones clave en las perspectivas de los participantes. Esta información sintetizada fue fundamental para perfeccionar el marco escalable y adaptarlo a las características y requisitos específicos de la organización. Posteriormente, se añadió a la pizarra virtual para que los participantes pudieran ver y reflexionar sobre las respuestas de los demás durante el taller, fomentando así un debate exhaustivo e inclusivo.
La actividad principal de este estudio consistió en una serie de tres talleres de pensamiento de diseño, cada uno centrado en diferentes ámbitos de la gobernanza de la IA. El primer taller abordó el ámbito de Procesos, el segundo el de Personas y el tercero los de Tecnología y Operaciones. En cada taller, los participantes accedieron a la pizarra virtual, que mostraba notas adhesivas organizadas por pregunta. Debatieron cada pregunta, formulando preguntas aclaratorias, ampliando las respuestas iniciales y abordando cualquier punto de vista divergente. Los participantes también revisaron el marco PPTO y aportaron comentarios al mismo. A lo largo de los talleres, modificaron las notas adhesivas existentes o añadieron otras nuevas para plasmar las ideas surgidas del debate.
Tras cada taller, realizamos un análisis de contenido de las notas adhesivas para identificar los temas clave. Cada nota se revisó y categorizó en temas más amplios según su contenido para resaltar patrones recurrentes. Este análisis temático permitió obtener un resumen sistemático de las perspectivas más destacadas de los participantes sobre cada pregunta, que luego se utilizó para adaptar el marco PPTO y alinearlo mejor con las características, necesidades y prioridades de la organización.
Este estudio se consideró una iniciativa de mejora de la calidad y no implicó la recopilación de datos identificables de sujetos humanos. Por lo tanto, estuvo exento de la aprobación del Comité de Ética de la Investigación. Todos los participantes otorgaron su consentimiento informado verbal para participar en los talleres y para permitir el uso de datos anonimizados en el análisis cualitativo.
Figura 2
Figura 3
