La inteligencia artificial exige regulación

Navegando por la Ley de Inteligencia Artificial de la Unión Europea para la atención médica

• Félix Busch, Jakob Nikolas Kather, Christian Johner, Marina Moser, Daniel Truhn, Lisa C. Adams & Keno K. Bressem
• La Ley de Inteligencia Artificial (IA) de la Unión Europea, recientemente adoptada, es el primer marco legal integral específicamente sobre IA. Esto es especialmente importante para el ámbito sanitario, ya que otra legislación de armonización existente, como el Reglamento sobre productos sanitarios, no cubre explícitamente las aplicaciones médicas de IA. Dado el impacto de gran alcance de este reglamento en el sector de la IA médica, este comentario ofrece una visión general de los elementos clave de la Ley de IA, con referencias fáciles de seguir a los capítulos relevantes.

• La Unión Europea (UE) ha dado un paso fundamental hacia la regulación de la inteligencia artificial (IA) con la adopción de la Ley de IA por parte de sus 27 estados miembros el 13 de marzo de 2024¹. Propuesta por primera vez en abril de 2021 por la Comisión Europea², la Ley de IA surgió del creciente reconocimiento del potencial transformador de la IA y de la necesidad de abordar los riesgos asociados y las preocupaciones éticas, sobre la base de iniciativas anteriores de la UE, incluido el Plan Coordinado de 2018 sobre la IA³ y el Libro Blanco de 2020 sobre la IA⁴. El Consejo emitió su posición en diciembre de 2022⁵, seguido de la adopción de la posición negociadora del Parlamento Europeo en junio de 2023⁶. Tras revisar el proyecto, las negociaciones finales entre la Comisión y el Consejo dieron lugar a un acuerdo provisional en diciembre de 2023, que fue refrendado por los Estados miembros en febrero de 2024¹.
• Como el primer marco legal integral del mundo específicamente sobre IA, la Ley de IA tiene como objetivo promover una IA confiable y centrada en el ser humano, al tiempo que protege la salud, la seguridad y los derechos fundamentales de las personas de los efectos potencialmente dañinos de los sistemas habilitados para la IA (artículo (Art) 1 (1)). La Ley establece normas armonizadas para la comercialización, la puesta en servicio y el uso de sistemas de IA y se ha convertido en ley vinculante en todos los Estados miembros de la UE 20 días después de su publicación en el Diario Oficial de la UE (publicado el 12 de julio^ésimo 2024), con independencia de las leyes y directrices nacionales vigentes en materia de IA (artículo 1, apartado 2 bis, artículo 113). La mayoría de las partes del reglamento entrarán en vigor en un plazo de 24 meses, y las prohibiciones, es decir, las prohibiciones de las aplicaciones de IA que se consideren un riesgo inaceptable, entrarán en vigor ya dentro de 6 meses (art. 113 (a-c)).
• En su forma actual, la Ley de IA tiene un ámbito de aplicación de gran alcance, no solo en el mercado interior, sino también extraterritorialmente, ya que se aplica a todos los proveedores de sistemas de IA en el mercado de la UE, independientemente de dónde estén establecidos o ubicados (artículo 2, apartado 1 bis; véanse las definiciones de proveedor, implantador y sistema de IA en el cuadro 1). Además, la Ley de IA se aplica a los proveedores y desplegadores de sistemas de IA en terceros países si la producción generada se utiliza en la Unión [artículo 2, apartado 1, letra c)]. Sin embargo, la «producción» no está definida en la Ley de IA, y los ejemplos son vagos, como «[…] predicciones, contenidos, recomendaciones o decisiones que puedan influir en los entornos físicos o virtuales […]» (Párrafo 1 del artículo 3). Esto sugiere que cualquier producto de IA podría estar sujeto a la Ley de IA si sus resultados pueden recibirse en la Unión, independientemente de la intención o la ubicación del proveedor o desplegable. Por último, la Ley de IA también se aplica a «[…] los desplegadores de sistemas de IA que tengan su lugar de establecimiento o estén situados en la Unión […]» (Apartado b) del artículo 2). Por lo tanto, los implantadores de sistemas de IA dentro de la UE, incluso si sus modelos no están destinados al mercado de la UE, deben cumplir con la normativa de la Ley de IA.
• Fig. 2: Estructura jerárquica del árbol de los requisitos de la Ley de IA de la UE para los sistemas de IA de alto riesgo, los modelos de IA de propósito general, determinados sistemas de IA con obligaciones específicas de transparencia y los sistemas de IA que no categorizan de otro modo
• Lista no exhaustiva de los requisitos clave de la Ley de IA. Los artículos no incluidos se refieren a la cooperación e interacción con las autoridades u obligaciones específicas para otras partes interesadas involucradas. IA inteligencia artificial, artículo de arte, CE Conformité Européenne, UE Unión Europea. Creado con markmap.js.org.
• Más allá de las fronteras de la UE, la Ley de IA también puede tener un impacto en el mercado mundial al establecer normas estrictas para el desarrollo y el uso de la IA que pueden ser seguidas y adoptadas por otros reguladores y autoridades nacionales o internacionales. Sin embargo, el rápido desarrollo de las tecnologías de IA requerirá la reevaluación y el perfeccionamiento continuos de dichas regulaciones. Si no se adoptan estos marcos rápidamente, se podrían generar oportunidades de mercado desiguales o riesgos significativos para los consumidores. Queda por determinar cómo se puede gestionar esto adecuadamente dentro del panorama regulatorio de la IA.