Inteligencia Artificial y Respuesta Sanitaria Efectiva

Martín McKee, Rikard Rosenbacke, David Stuckler

Este trabajo explora el papel de la inteligencia artificial (IA) en la gestión de pandemias, ofreciendo una guía introductoria para profesionales de la salud pública. A partir de la experiencia de la pandemia de COVID-19, el texto destaca cómo la IA puede facilitar la toma de decisiones en contextos de crisis, optimizando la recopilación y el análisis de datos en tiempo real para rastrear la propagación de infecciones, el movimiento poblacional y la percepción pública.

El análisis subraya que la IA, aunque aún incipiente durante la crisis de 2020, ha avanzado rápidamente y se prevé que sea fundamental en futuras emergencias, aportando oportunidades considerables pero también riesgos, como decisiones erróneas, ciberataques o filtraciones de datos. Se detallan aplicaciones como la detección temprana de brotes, el modelado predictivo, la optimización de la atención sanitaria, el apoyo a la toma de decisiones, la vigilancia y la comunicación de riesgos.

Además, se expone una clasificación básica de los tipos de IA: la Inteligencia Artificial Estrecha, centrada en tareas específicas y predominante en las aplicaciones actuales; la Inteligencia Artificial General, que aspira a replicar las capacidades cognitivas humanas, aunque con diferencias fundamentales respecto a la biología; y la Superinteligencia Artificial, aún en el terreno de la especulación. El trabajo concluye señalando la necesidad de debates más profundos sobre la integración sistemática de la IA en las infraestructuras de salud pública, considerando tanto su potencial transformador como los desafíos que implica.

1 INTRODUCCIÓN

Un editorial reciente en esta revista exigió un mayor análisis de las aplicaciones e implicaciones de la inteligencia artificial (IA) en la formulación de políticas, la planificación y la gestión. ¹ En este artículo, respondemos a esta petición explorando el uso de la IA en un contexto particular: la respuesta de salud pública a una pandemia. La pandemia de COVID-19 puso de manifiesto la importancia de los datos y la capacidad de analizarlos e interpretarlos. Decisiones importantes, como la imposición de restricciones de movimiento, se tomaron prácticamente en tiempo real utilizando datos de diversas fuentes para rastrear la propagación de la infección, el movimiento de personas, la percepción pública y muchos otros aspectos. La cantidad de datos podría fácilmente resultar abrumadora.

Nuestro punto de partida es que la IA inevitablemente desempeñará un papel más importante en la respuesta de salud pública ante cualquier crisis futura, ya sea una pandemia u otra, como un desastre natural o un conflicto grave. Cuando comenzó la pandemia en 2020, la IA aún desempeñaba un papel limitado, pero ha avanzado rápidamente. Sin embargo, esto plantea desafíos para quienes ocupan puestos de liderazgo en salud pública. Se trata de un área altamente técnica donde el conocimiento y sus aplicaciones cambian rápidamente. También es un área donde existe una asimetría de información excepcionalmente grande entre los responsables de adquirir la tecnología y quienes la producen.

Estas características ofrecen tanto oportunidades como riesgos. Las oportunidades que describimos en este análisis son considerables y, sostenemos, no pueden ignorarse, especialmente dada la evidencia de que todos los países podrían haber tenido un mejor desempeño durante la pandemia y la necesidad imperiosa de estar mejor preparados para futuras crisis. Los riesgos radican en que invierten recursos limitados, tanto financieros como humanos, en tecnologías que, en el mejor de los casos, no funcionan y, en el peor, resultan perjudiciales al aumentar el riesgo de ciberataques o filtraciones de datos, o al dar lugar a recomendaciones incorrectas y potencialmente peligrosas.

En esta revisión, exploramos brevemente algunas de sus posibles funciones, como la detección temprana y el modelado predictivo de brotes, la optimización de la atención sanitaria y su gestión, el apoyo a la toma de decisiones en salud pública, la vigilancia sanitaria y la comunicación y difusión de riesgos.

Este es un campo vasto y altamente técnico, por lo que en una breve revisión solo se puede ofrecer una introducción básica y un repaso de las posibilidades. Esperamos que sirva de base para debates más detallados por parte de quienes ocupan puestos de liderazgo en salud pública sobre cómo la IA puede integrarse sistemáticamente en las infraestructuras de salud pública para la gestión de pandemias. Al explorar el papel de la IA en la predicción, la asignación de recursos y el seguimiento de brotes, nos basamos en la creciente literatura sobre su potencial transformador en los procesos de toma de decisiones, a la vez que equilibramos el riesgo de una confianza excesiva en el asesoramiento generado por IA. ² De esta manera, describimos cómo la IA puede apoyar a los responsables políticos, gestores y profesionales de la salud pública, facilitando la toma de decisiones más informadas durante las crisis sanitarias.

2 LOS TIPOS DE IA Y LAS FORMAS DE APRENDIZAJE

La IA abarca técnicas para realizar tareas que normalmente requieren inteligencia humana, como reconocer voz e imágenes, tomar decisiones y traducir idiomas. Se ha clasificado de diversas maneras. Una de las más sencillas se divide en tres grupos: Inteligencia Artificial Estrecha, Inteligencia Artificial General y Superinteligencia Artificial. ³

La Inteligencia Artificial Estrecha (a veces denominada IA ​​Débil) realiza una tarea discreta o un conjunto de tareas estrechamente relacionadas. No puede generalizar sus habilidades más allá de su dominio específico. Algunos ejemplos incluyen asistentes de voz, como Siri o Alexa, que utilizan el procesamiento del lenguaje natural para responder a las consultas de los usuarios; sistemas de recomendación, como los algoritmos utilizados por Netflix o Spotify para sugerir cosas que reflejen las preferencias del usuario; y sistemas de reconocimiento de imágenes que pueden identificar objetos, rostros o escenas, y vehículos autónomos, que combinan sensores, aprendizaje automático y algoritmos de toma de decisiones. También incluye los Modelos de Lenguaje Largo (LLM), que aprenden idiomas mediante la búsqueda de asociaciones estadísticas dentro de los textos. La mayoría de las aplicaciones actuales de IA entran en esta categoría. Pueden obtener buenos resultados en pruebas estándar. Por lo tanto, Roivainen le pidió a ChatGPT que realizara una prueba de CI y obtuvo una puntuación muy respetable de 155. ⁴ Sin embargo, no pudo responder a la pregunta «¿quién es el padre de los hijos de Sebastián?», que requería razonamiento.

La Inteligencia Artificial General (a veces denominada IA ​​Fuerte) se concibió inicialmente como un medio para replicar las capacidades cognitivas humanas que permitían comprender, aprender y aplicar el conocimiento en diversas tareas, de forma similar a un humano, y participar en el razonamiento, la resolución de problemas y el pensamiento abstracto. ⁵ Sin embargo, esto ha sido reemplazado por el reconocimiento de que la biología y la IA son fundamentalmente diferentes. Por ejemplo, las máquinas no pueden aplicar la intuición, el juicio moral (a menos que estén preprogramadas para ello) ni la autoconciencia, pero sí pueden procesar grandes cantidades de datos mucho más rápido que los humanos. Tampoco está claro cómo se determinaría si una máquina posee Inteligencia Artificial General, con pruebas propuestas que van desde la conocida Prueba de Turing, en la que quienes conversan con ella no pueden distinguir si es una máquina o un humano, hasta la Prueba del Café, en la que una máquina puede entrar en una casa, encontrar lo que se necesita y preparar un café.

También existe lo que a veces se denomina Superinteligencia Artificial. Esta representa un futuro hipotético en el que las máquinas superan la inteligencia humana en creatividad, resolución de problemas e inteligencia emocional. Si bien esto ha atraído mucha atención, es cuestionable si alguna vez se logrará. Por lo tanto, por ahora, las principales aplicaciones para la gestión de pandemias se basarán en algoritmos de IA predictiva similares a los que utilizan actualmente Netflix y Apple.

También es importante observar cómo se generan los sistemas de IA para comprender mejor sus aplicaciones. Estos sistemas de IA se basan en algoritmos sofisticados que les permiten entrenarse con grandes conjuntos de datos para aprender rápidamente. Estos incluyen cuatro tipos principales de aprendizaje (Cuadro  1 ).

Tipos de aprendizaje utilizados en inteligencia artificial

El aprendizaje automático es una aplicación de la IA que permite a las computadoras extraer conocimiento de los datos de forma autónoma. ⁶ Los algoritmos de aprendizaje automático analizan los datos de entrenamiento para realizar predicciones o tomar decisiones sin estar programados explícitamente para la tarea. ⁷ Utilizan tres métodos principales: aprendizaje supervisado, aprendizaje no supervisado y aprendizaje por refuerzo.

El aprendizaje supervisado , el más común, utiliza algoritmos entrenados con un conjunto de datos etiquetados, donde cada ejemplo de entrenamiento se asocia con una etiqueta de salida. El objetivo es predecir las etiquetas de datos nuevos e inéditos. Los usos más comunes incluyen la regresión (lineal, logística o polinómica) para predecir aspectos como el precio de las viviendas basándose en características como el tamaño, la ubicación y la antigüedad, o la clasificación, que se utiliza para asignar elementos a categorías; por ejemplo, para clasificar correos electrónicos como spam o no spam. El aprendizaje supervisado funciona mejor cuando existe una gran cantidad de datos etiquetados y se comprende bien la relación entre la entrada y la salida, como en la detección de anomalías comunes en imágenes médicas.

El aprendizaje no supervisado se ocupa de datos no etiquetados para inferir una estructura presente en un conjunto de puntos de datos. Un ejemplo es la agrupación en clústeres, que agrupa los puntos de datos en función de su similitud, por ejemplo, para segmentar a los clientes en grupos distintos para dirigir el material de marketing. Un segundo ejemplo es la dimensionalidad, que reduce el número de variables que se consideran. Estas se pueden utilizar, por ejemplo, para identificar grupos de pacientes con características similares en los registros médicos electrónicos. ⁸ Un tercero es la detección de anomalías, que identifica elementos, eventos u observaciones poco comunes que levantan sospechas al diferir significativamente de la mayoría de los datos. Estos se pueden utilizar, por ejemplo, para identificar posibles datos fraudulentos o fallos del sistema o, en el presente contexto, para identificar averías en el tratamiento de aguas residuales donde los problemas se ocultan fácilmente por el ruido en el sistema. ⁹ El aprendizaje no supervisado es particularmente útil cuando se trabaja con grandes conjuntos de datos donde el objetivo es explorar y comprender la estructura de los datos en ausencia de etiquetas predefinidas.

El aprendizaje por refuerzo consiste en que un agente aprende a tomar decisiones realizando ciertas acciones y recibiendo recompensas o penalizaciones. El objetivo es aprender una política que maximice la recompensa acumulada a lo largo del tiempo. Los métodos basados ​​en el valor se centran en estimar el valor de las acciones para determinar la mejor acción a tomar dada la situación actual. Los métodos basados ​​en políticas optimizan la política que sigue el agente. Estos funcionan mejor cuando el margen de acción es amplio. Los métodos basados ​​en modelos implican la construcción de un modelo del entorno y su uso para la planificación. El aprendizaje por refuerzo se utiliza ampliamente en la industria de los videojuegos, pero están comenzando a surgir aplicaciones en el ámbito de la salud, como lo demuestra el desarrollo de un modelo que incorpora datos fisiológicos y experiencia clínica para diagnosticar la sepsis. ¹⁰

Ahora analizamos algunas áreas en las que estas aplicaciones podrían utilizarse en una futura pandemia.

3 APLICACIÓN 1: DETECCIÓN TEMPRANA Y MODELADO PREDICTIVO DE BROTES

Es muy posible que la primera vigilancia digital de epidemias tuviera lugar en 1994, cuando se creó ProMED (Programa para el Monitoreo de Enfermedades Infecciosas Emergentes), una herramienta basada en red, para identificar eventos de salud inusuales relacionados con enfermedades infecciosas emergentes y reemergentes. ¹¹ Se desarrolló tras reconocer que las primeras señales de una crisis de salud emergente a menudo aparecían en informes de los medios de comunicación, redes profesionales y profesionales de la salud. Por lo tanto, se basó en informes globales de colaboración abierta, basándose en una lista de correo electrónico, informes de campo y un sitio web. El 30 de diciembre de 2019, ProMED informó sobre conversaciones en el sitio de microblogging chino, Weibo, sobre casos de neumonía en Wuhan cuya causa se desconocía. ¹² Por lo tanto, fue uno de los primeros en informar sobre la COVID-19 antes de que se reconociera oficialmente como un virus con potencial pandémico. Aunque ProMED todavía se cura manualmente, ilustra cómo el crecimiento de las redes sociales ha expandido enormemente el material que se puede analizar. La herramienta epitweetr, desarrollada por el Centro Europeo para la Prevención y el Control de Enfermedades (ECDC) para detectar amenazas a la salud pública procedentes de X (anteriormente Twitter), es un ejemplo. ¹³

Históricamente, la vigilancia de enfermedades infecciosas se vio obstaculizada por la renuencia de algunos gobiernos a reportar brotes. Estos ahora son mucho más difíciles de ocultar. Se han producido avances similares en otros sectores, como la gestión de conflictos, la aplicación de la ley y la previsión económica, utilizando inteligencia de fuentes abiertas (OSINT). Esto ha permitido a organizaciones no gubernamentales, como Bellingcat, proporcionar evaluaciones rápidas de eventos en zonas de conflicto, antes restringidas a las agencias de inteligencia estatales, más importantes que nunca dado el aumento de la desinformación. Sin embargo, la enorme expansión de las fuentes de datos también plantea problemas para el análisis. Este es un candidato obvio para el uso de la IA, que ahora está siendo adoptada por un número creciente de plataformas. 

El potencial de la IA va más allá de la detección de brotes. Al combinar datos sobre temas como el clima, la distribución de vectores, el movimiento de personas y las condiciones de vida, se pueden identificar los momentos y lugares con mayor riesgo de brote. Esto siempre se pudo hacer, por ejemplo, utilizando la relación entre la malaria y la altitud o las temporadas de lluvias, pero una mayor potencia informática, algoritmos sofisticados y nuevas fuentes de datos lo han transformado.  Estas incluyen el seguimiento del movimiento de las personas mediante señales de sus teléfonos móviles,  imágenes satelitales que ofrecen datos casi en tiempo real sobre la infraestructura física y el uso del suelo, y datos meteorológicos detallados. ^²⁰

Más allá de la COVID-19, un estudio reciente del sur de Nigeria identificó las precipitaciones, la altitud, la densidad de población y las variaciones de temperatura como condiciones ambientales adecuadas para la mPox con alta precisión predictiva. ²¹ Sin embargo, incluso sin incorporar dichas variables ambientales, se demostró que un algoritmo de aprendizaje automático supera los métodos tradicionales de series temporales para predecir el curso de un brote de mPox. ²² de la Lastra y sus colegas han revisado la amplia gama de posibles aplicaciones de la IA para abordar la resistencia a los antimicrobianos, incluida la identificación de patógenos, la comprensión de los patrones de resistencia, la predicción de los resultados del tratamiento y el descubrimiento de nuevos antibióticos. ²³ Los algoritmos de aprendizaje automático también pueden analizar datos genómicos para identificar marcadores genéticos asociados con la resistencia a los antimicrobianos, lo que ayuda al desarrollo de estrategias de tratamiento específicas.

Sin embargo, como señalan Syrowatka y sus colegas en una revisión de alcance de 2021, la IA tiene ciertas limitaciones, en particular en términos de integración de datos, escalabilidad del sistema y garantía de la calidad de los datos. ²⁴ 

Los modelos de predicción impulsados ​​por IA dependen de la disponibilidad de datos apropiados de alta calidad de fuentes como registros médicos, notificaciones de enfermedades y resultados de laboratorio. Sin embargo, estos conjuntos de datos varían ampliamente en estructura y calidad, lo que plantea desafíos significativos en el entrenamiento de modelos de IA.

Por ejemplo, se encontró que muchos modelos de COVID-19 revisados ​​se basaban en datos de entornos específicos (p. ej., ingresos hospitalarios) y no deberían haberse generalizado, lo que resulta en altos riesgos de sesgo y sobreajuste. ²⁵ Además, existe una falta de estandarización en cómo se recopilan los datos en los diferentes sistemas de atención médica, lo que complica la validación y la aplicación de estos modelos más allá del entorno de entrenamiento inicial. Una preocupación particular es la ausencia, en muchos conjuntos de datos, de variables que capturen la etnicidad, dado el riesgo conocido de que la IA perpetúe el sesgo oculto. ²⁶ Otro problema importante es la falta de datos, que a menudo se maneja de forma inadecuada mediante la realización de análisis de casos completos que reducen aún más la confiabilidad del modelo. ²⁵ Para abordar estos desafíos es necesario mejorar la calidad de los datos, garantizar la disponibilidad de diversos conjuntos de datos y adoptar estrategias de validación sólidas para mejorar el rendimiento y la aplicabilidad del modelo en diferentes entornos de atención médica.

4 APLICACIÓN 2: OPTIMIZACIÓN DE LA PRESTACIÓN Y GESTIÓN DE LA ATENCIÓN SANITARIA

La distribución de materiales, como medicamentos y equipos de protección personal, fue un desafío durante la pandemia. En primer lugar, era necesario optimizar la asignación de los escasos recursos. En segundo lugar, era necesario minimizar la exposición de los trabajadores del transporte y la logística a los riesgos de infección. La IA puede, en cierta medida, abordar ambos problemas.

4.1 Gestión de recursos escasos para satisfacer la demanda cambiante

La IA puede utilizarse en modelos predictivos que anticipan los cambios en la demanda y ajustan los patrones de distribución en consecuencia. Durante la pandemia, investigadores de una gran cadena minorista emplearon este enfoque para detectar comportamientos de compra por pánico utilizando datos de la empresa, como pedidos y promociones en línea, y datos externos, como búsquedas en línea y publicaciones en redes sociales. ²⁷ Lograron ajustar la distribución de productos esenciales (p. ej., papel higiénico, sopa enlatada y productos de limpieza) y aumentar considerablemente el acceso.

Si bien este ejemplo buscaba optimizar el rendimiento de un sistema logístico establecido, los desafíos son mucho mayores en una emergencia con daños graves a la infraestructura y desplazamiento de personas. Zahedi y sus colegas desarrollaron un modelo de toma de decisiones que abordó simultáneamente la distribución de mercancías y el enrutamiento de vehículos, y lo validaron utilizando datos del terremoto de Kermanshah de 2017 en Irán. ²⁸ Un desafío evidente en tales circunstancias es la falta de datos históricos para entrenar los algoritmos, pero Huang y Song han descrito cómo incorporaron la opinión de expertos sobre la demanda y los tiempos de viaje en su modelo, diseñado para optimizar la distribución de bienes esenciales. ²⁹

Una emergencia de salud pública aumentará la demanda de centros de salud. Los responsables de asignar recursos escasos deben, simultáneamente, ajustar las diferentes necesidades de oxígeno, aislamiento o monitoreo de muchos pacientes a los recursos disponibles en una situación que cambia rápidamente. Aunque el uso de IA en esta área todavía está en una etapa temprana, se ha demostrado una prueba de concepto en simulaciones virtuales. ³⁰ Una aplicación relacionada es el uso de IA para analizar las características de los pacientes de manera que se identifiquen a los pacientes hospitalizados que se espera que tengan una estancia prolongada, señalando a aquellos que pueden necesitar intervenciones más tempranas ^31 , 32 o que están mostrando los primeros signos de deterioro. ³³ Si bien se requiere considerable precaución, la IA también puede ser capaz de ayudar en una situación donde el personal de salud escasea. Los LLM impulsan los chatbots, que han sido calificados por encima de las respuestas de los médicos en términos de calidad y empatía en algunas circunstancias limitadas. ³⁴ Sin embargo, en el mejor de los casos, su uso se limitará a las tareas más simples. ³⁵

4.2 Distribución más segura de medicamentos y equipos de protección

Cada encuentro entre un paciente y un profesional sanitario o asistencial durante una pandemia presenta una oportunidad para la transmisión de infecciones. Esto ha impulsado la investigación sobre un mayor uso de robots, ^³⁶ un proceso que ha cobrado impulso en los últimos años en Japón, un país con una población que envejece rápidamente y que se enfrenta a una grave escasez de mano de obra.^³⁷ Esto puede adoptar diversas formas, desde medidas que facilitan las actividades de la vida diaria, aprovechando el Internet de las Cosas (IoT), ahora ampliamente utilizado en la automatización de hogares, hasta chatbots que pueden brindar asesoramiento y solicitar acciones,^³⁸ y robots físicos que pueden realizar tareas de limpieza y desinfección, entregar medicamentos y compras, y ayudar con la movilidad. ^³⁹ Sin embargo, se requiere cautela, ya que la evidencia sugiere que muchas de las afirmaciones iniciales sobre las contribuciones de los robots al cuidado personal no se han materializado. Por ejemplo, los robots diseñados para trasladar a los residentes aumentaron la carga de trabajo del personal, y aquellos diseñados para interactuar con ellos y estimularlos se abandonaron al volverse aburridos.^⁴⁰

4.3 Reducción de las exigencias a los trabajadores sanitarios

La pandemia ha tenido profundas consecuencias para los trabajadores de la salud de primera línea, que a menudo trabajaban durante largas horas con equipos de protección personal calurosos e incómodos y experimentaban altos niveles de agotamiento. ⁴¹ La IA, aprovechando los avances en áreas como el reconocimiento de voz, ofrece potencial para automatizar muchas tareas clínicas rutinarias, como la toma de notas.

5 APLICACIÓN 3: APOYO A LA TOMA DE DECISIONES EN SALUD PÚBLICA

El comportamiento humano en una emergencia es intrínsecamente complejo, con patrones determinados por las condiciones iniciales (dependencia de la trayectoria), cambios no lineales, desfases variables entre intervenciones y resultados, y ciclos de retroalimentación positivos y negativos. Las personas toman decisiones que reflejan sus percepciones y las de quienes las rodean, la magnitud y la naturaleza de las amenazas, y las limitaciones a los diferentes cursos de acción. Por ejemplo, mientras los políticos debatían cuándo imponer restricciones de movimiento al inicio de la pandemia de COVID-19, muchas personas actuaron antes de recibir instrucciones. ⁴²

Estas restricciones implican compensaciones. Si bien interrumpir la transmisión de un microorganismo altamente infeccioso es esencial, las restricciones asociadas tienen consecuencias para la salud, afectando desproporcionadamente a quienes ya se encuentran en desventaja. ⁴³

Las simulaciones sociales basadas en agentes modelan las interacciones de agentes autónomos para crear sociedades virtuales. Estas pueden ayudar a evaluar las posibles consecuencias de diferentes intervenciones políticas. ⁴⁴ Dignum y sus colegas informan sobre cómo esta herramienta puede explorar las compensaciones derivadas del cierre de escuelas o las órdenes de teletrabajo. ⁴⁵

De manera similar, Song y sus colegas exploraron cómo los confinamientos a nivel de ciudad o comunidad y las restricciones en los tipos de movimiento podrían limitar la transmisión de enfermedades y, al mismo tiempo, minimizar el daño económico. ⁴⁶ Crearon un oráculo de IA utilizando aprendizaje de refuerzo para identificar soluciones que luego se modelaron bajo diferentes supuestos relacionados con la complejidad de la implementación, el impacto en los servicios de salud y los costos en relación con los beneficios.

6 APLICACIÓN 4: VIGILANCIA DE LA SALUD

Aunque pocos países recopilaron datos sobre las características socioeconómicas de sus poblaciones, era evidente que la pandemia estaba poniendo de manifiesto desigualdades arraigadas, con peores resultados entre quienes viven en condiciones precarias. Sin embargo, muchos de los análisis realizados se han centrado en características individuales, como los ingresos, la situación laboral o la etnia. La desventaja se caracteriza por la interseccionalidad, en la que interactúan características tanto a nivel individual como comunitario.

Bowser y sus colegas utilizaron aprendizaje automático para agrupar más de 650 variables de 24 bases de datos diferentes, recopilando datos geográficos de Estados Unidos. ⁴⁷ Identificaron tres grupos amplios con expectativas de vida marcadamente diferentes. Estos diferían de los identificados previamente mediante análisis dirigidos por investigadores. Cabe destacar que demostraron que la infraestructura del sistema de salud contribuía significativamente al grupo con la mayor esperanza de vida, un hallazgo relevante para las políticas públicas en un momento en que Estados Unidos se enfrenta al cierre de hospitales en muchas zonas.

En Estados Unidos, el aprendizaje automático por conjuntos también se ha utilizado para agregar datos a nivel de condado sobre salud física y mental, contaminación ambiental, acceso a la atención médica, características demográficas y otros datos epidemiológicos, con el fin de explorar las correlaciones de los resultados de la COVID-19. Como era de esperar, dado el racismo estructural generalizado, la proporción de afroamericanos fue un fuerte predictor de resultados adversos, pero de forma menos intuitiva, también lo fue un mayor uso del transporte público. ⁴⁸ En Alemania, Doblhammer y sus colegas utilizaron un enfoque similar para mostrar cómo las personas con riesgo de resultados adversos de la COVID-19 diferían en las sucesivas etapas de la pandemia. ⁴⁹

7 APLICACIÓN 5: MEJORA DE LAS COMUNICACIONES Y MENSAJES SOBRE RIESGOS PARA LA SALUD PÚBLICA

La IA puede mejorar la calidad, la claridad y la eficacia de los mensajes relacionados con la salud. Los LLM se han empleado para generar mensajes de concienciación sobre la salud que igualan o incluso superan el contenido generado por humanos. Por ejemplo, se descubrió que los mensajes generados por IA sobre el ácido fólico eran superiores en calidad y claridad a los mensajes generados por humanos más retuiteados. ⁵⁰ La IA también se ha utilizado para crear mensajes persuasivos sobre la vacunación contra la COVID-19, percibidos como más eficaces y que evocan actitudes más positivas que los creados por instituciones humanas como los Centros para el Control y la Prevención de Enfermedades de EE. UU. ⁵¹ La IA también se puede utilizar para analizar datos de redes sociales para rastrear sentimientos y creencias ⁵² e identificar desinformación. ⁵³ Finalmente, la IA se ha utilizado para desarrollar pacientes virtuales simulados, proporcionando una plataforma rentable y eficiente en el uso de recursos para practicar y mejorar las habilidades de comunicación. ⁵⁴

8 OTRAS APLICACIONES

Los ejemplos examinados anteriormente no son exhaustivos. Existen numerosas aplicaciones de IA de uso generalizado que ofrecen la posibilidad de simplificar tareas durante una pandemia, al igual que en tiempos normales. Estas incluyen la búsqueda de literatura, la preparación de documentos, la creación de imágenes para transmitir mensajes, etc. Sin embargo, muchas de estas aplicaciones están infrautilizadas y una encuesta de 2020 reveló que el 68 % de los datos de las empresas comerciales permanece sin utilizar. ^⁵⁵ Es probable que la cifra en muchos sistemas de salud sea mayor. El procesamiento de historiales médicos electrónicos es particularmente complejo porque contiene texto estructurado y no estructurado, imágenes y datos de laboratorio. ^⁵⁶

También existen muchas aplicaciones clínicas y de ciencia básica, aunque estas van más allá del alcance de este documento al centrarse en la respuesta de salud pública. Muchas de estas se han descrito en detalle en una revisión reciente de Lv y colegas. ⁵⁷ Por ejemplo, la plataforma OpenSAFELY categorizó a los pacientes en 10 grupos según el grado y la naturaleza del uso de antibióticos en los 3 años previos al diagnóstico de COVID-19 y encontró una diferencia de casi cinco veces en la probabilidad de COVID-19 grave en aquellos en cada extremo de la escala. ⁵⁸ También se está abogando por el uso del aprendizaje automático en el descubrimiento de posibles fármacos. ⁵⁹ Esto ofrece un medio para predecir propiedades de compuestos como la afinidad de unión y la toxicidad sin necesidad de sintetizarlos. ⁶⁰ Sin embargo, aunque varias moléculas nuevas se encuentran ahora en etapas avanzadas de evaluación, la IA hasta ahora ha sido, en el mejor de los casos, un complemento al enfoque convencional dirigido por humanos. ⁶¹ El uso de IA en el descubrimiento de fármacos también plantea desafíos para los organismos reguladores en relación con los estándares de calidad de los datos, la transparencia y la validación de modelos, todo lo cual requiere un tiempo limitado en una crisis. ⁶² En consecuencia, la aplicación más prometedora de la IA en una pandemia puede ser la evaluación de fármacos existentes para identificar prioridades para pruebas biológicas posteriores. ⁶³

9 ¿SUEÑO O REALIDAD?

Hasta ahora, hemos explorado las oportunidades que la IA puede ofrecer en una emergencia de salud pública. Sin embargo, esto no significa que este potencial se materialice.

Si bien algunos de los métodos que hemos descrito son de uso generalizado, como los algoritmos para hacer recomendaciones en las compras en línea, se trata de situaciones en las que hay poco en juego. Esto no ocurre en una emergencia de salud pública, donde una decisión incorrecta puede costar muchas vidas. Además, estos usos se benefician de una gran cantidad de datos recopilados en tiempo real de los clientes, a menudo vinculados a una gran cantidad de información adicional sobre ellos, como sus publicaciones en redes sociales. En cambio, una emergencia como una pandemia es, en gran medida, un territorio inexplorado.

También es importante reconocer que muchas de las aplicaciones mencionadas anteriormente no se han evaluado ni validado exhaustivamente. A menudo, son, en el mejor de los casos, una prueba de concepto. Van Smeden y sus colegas han proporcionado, de forma útil, una lista de 12 preguntas que cualquier persona que evalúe modelos de predicción basados ​​en IA debería plantearse. Estas se relacionan con la conceptualización, la recopilación de datos, los predictores y los resultados, la apertura y la imparcialidad, la elaboración de informes y el rendimiento del modelo. ⁶⁴ De cara al futuro, esta tarea podría facilitarse mediante la adopción de sistemas de informes estandarizados, como TRIPOD + AI (Informes transparentes de un modelo de predicción multivariable para el pronóstico o diagnóstico individual). ⁶⁵ Sin embargo, dado el ritmo del cambio, es importante que los responsables políticos sepan qué buscar.

También es necesario ser consciente de los numerosos riesgos asociados con la IA. El procesamiento de grandes cantidades de información personal, a menudo sensible, plantea riesgos evidentes para la privacidad y la seguridad de los datos. Esto puede provocar robo de identidad, extorsión y otras consecuencias graves para aquellos cuyos datos se divulgan. Como cualquier recurso electrónico, los sistemas que utilizan IA corren el riesgo de sufrir ciberataques o fallos de software, como los derivados de la actualización de software de julio de 2024 que provocó la caída de sistemas informáticos en todo el mundo. ⁶⁶

La IA también plantea riesgos para la equidad, especialmente cuando los modelos se entrenan con datos sesgados. Por lo tanto, existen numerosos ejemplos de algoritmos de diagnóstico entrenados con conjuntos de datos que excluyen a ciertos grupos étnicos y que generan respuestas erróneas al aplicarse a pacientes de dichos grupos. ⁶⁷ En algunos casos, esto puede perpetuar los sesgos existentes en el tratamiento.

Los errores de confirmación falsa ocurren cuando un tomador de decisiones (por ejemplo, médicos o formuladores de políticas) toma una decisión incorrecta que es confirmada por un asesoramiento erróneo de IA. ⁶⁸ Estos errores son una forma previamente no descubierta de sesgo humano, similar al sesgo de confirmación, ^69 , 70 que resulta en la aceptación acrítica de decisiones sin un mayor escrutinio. ⁶⁸ Si bien se ha centrado mucha atención en si los sistemas de IA son correctos o incorrectos, especialmente cuando entran en conflicto con la medicina basada en evidencia, es esencial comprender completamente las implicaciones de la colaboración humano-IA.

La conciencia del riesgo de falsas confirmaciones es crucial para una política, planificación y gestión eficaces. A menudo es insidiosa, ya que puede reforzar la confianza en decisiones potencialmente erróneas. Estos errores parecen tener una alta prevalencia, estimada en un 5-30% de las decisiones. ⁶⁸ Lopes y sus colegas señalan que la IA puede ayudar a las compañías de seguros a evaluar la demografía, el historial médico y los factores conductuales, pero también que este es un área especialmente susceptible a las falsas confirmaciones, lo que podría exacerbar la desigualdad. ¹

Se requiere especial atención con los LLM, que potencialmente pueden exacerbar y mitigar el sesgo de confirmación. ^{56 , 71-73 Ke y colegas encontraron que los LLM redujeron significativamente los sesgos y mejoraron la precisión} diagnóstica en la toma de decisiones clínicas simuladas. ⁷² Sin embargo, existen riesgos como la «alucinación» cuando los LLM generan contenido falso y cuando los LLMS utilizan investigación falsa, obsoleta o sesgada. ⁵⁶ Los LLM engañosos pueden difundir rápidamente una gran cantidad de desinformación, dirigida a grupos específicos o incluso a individuos. ⁷⁴ La introducción de los LLM en la toma de decisiones colaborativa entre humanos e IA debe evaluarse cuidadosamente, ⁷² dado que los humanos tendemos a favorecer las narrativas convincentes, especialmente las historias que se alinean con nuestros propios puntos de vista. ⁶⁹

Los sistemas de IA solo se utilizarán si se confía lo suficiente en ellos, pero no tanto como para que los usuarios no los cuestionen cuando las respuestas parezcan erróneas. ⁶⁸ Esto ha dado lugar al concepto de IA explicable, en el que los algoritmos establecen por qué llegaron a la decisión o qué podría haberlos hecho llegar a una diferente. ⁷⁵ Sin embargo, en la actualidad, muchos sistemas de IA funcionan como cajas negras, y la aplicación de este concepto aún se encuentra en una etapa inicial.

Para que la IA se utilice según lo previsto, debe integrarse en las estructuras y procesos existentes. De lo contrario, existe el riesgo de interrupciones en el flujo de trabajo, ineficiencias y exigencias adicionales para quienes operan los sistemas o aplican las decisiones resultantes. Lamentablemente, el historial de fracasos en la adquisición de tecnologías de la información no es alentador. ⁷⁶

Finalmente, la mayoría de los sistemas de IA dependen de la disponibilidad de datos sin procesar sobre el fenómeno que abordan. Sin embargo, ¿qué ocurre cuando los datos han sido generados por la IA? Esto es especialmente preocupante con la IA generativa, que produce imágenes y texto extrayendo información de internet. Los errores se acumulan con cada iteración, y los datos generados por la IA actúan, en efecto, como un veneno. ⁷⁷

10 IMPLICACIONES PARA LA POLÍTICA

Hemos analizado el papel transformador que la IA puede desempeñar en la salud pública, especialmente en la gestión de pandemias. Puede contribuir a la detección temprana de brotes, la asignación de recursos, la prestación de servicios de salud y la comunicación en materia de salud pública. Sin embargo, para lograrlo, los responsables políticos deben integrar la IA en los sistemas de salud pública. Además, estas oportunidades conllevan importantes responsabilidades. Los responsables políticos deben desarrollar marcos sólidos para abordar las preocupaciones sobre la privacidad relacionadas con las enormes cantidades de datos que requiere la IA, como los historiales médicos personales y la monitorización en tiempo real de las redes sociales. Las políticas de gobernanza de datos deben garantizar la privacidad, la seguridad y el uso ético, a la vez que minimizan riesgos como los ciberataques y las filtraciones. Este tema se aborda en detalle en un informe de la Organización Mundial de la Salud. ⁷⁸

También deben ser conscientes de los riesgos de sesgo en los algoritmos de IA, que pueden generar resultados desiguales en la atención médica si los conjuntos de datos utilizados para entrenar modelos de IA no representan poblaciones diversas. Las políticas deben exigir transparencia en los métodos de entrenamiento de IA y el uso de conjuntos de datos diversos para garantizar una atención médica equitativa para todos.

Otra consideración importante es la colaboración ética entre humanos e IA en la toma de decisiones. La IA puede reforzar decisiones incorrectas si no se supervisa adecuadamente, un fenómeno conocido como «falsa confirmación». Por lo tanto, los responsables políticos deben establecer directrices para el uso responsable de la IA, garantizando que las decisiones se validen y no se acepten ciegamente a partir de los resultados de la IA. La confianza en la IA será crucial para su adopción efectiva, especialmente en el ámbito sanitario. La IA explicable, donde los algoritmos pueden aclarar cómo se toman las decisiones, debe priorizarse en los marcos de políticas para generar confianza entre los usuarios, especialmente en escenarios de alto riesgo como las pandemias.

La IA tiene el potencial de reducir la presión sobre el personal sanitario, automatizando tareas rutinarias como la documentación y optimizando la distribución de recursos críticos. Esto tiene un claro atractivo para los responsables políticos. Sin embargo, si bien deben explorar cómo utilizar la IA para apoyar a los sistemas de salud sobrecargados, especialmente durante emergencias, deben ser cautelosos ante las consecuencias imprevistas de la interrupción de la actividad laboral.

En definitiva, se necesitan políticas con visión de futuro que integren la IA en las estrategias de preparación ante pandemias. De esta manera, los responsables políticos pueden aprovechar la capacidad de la IA para predecir brotes, gestionar recursos y mejorar los mensajes de salud pública, a la vez que se protegen contra los riesgos inherentes a su uso.

11 CONCLUSIÓN

La IA tendrá profundas consecuencias para la salud pública. Sin embargo, en un campo en rápida evolución, es muy difícil distinguir la propaganda de la sustancia. Y si bien ofrece muchas oportunidades, también conlleva riesgos. De lo único que podemos estar seguros es que los futuros responsables de las políticas sanitarias tendrán que comprender esta compleja área. Como se puede ver, muchos de ellos tuvieron dificultades incluso con principios matemáticos relativamente sencillos e incertidumbres durante la pandemia, no se deben subestimar los desafíos.