Premila Webster, Keith R. Neal
“Debemos trabajar juntos para lograr una IA que acorte las brechas sociales, digitales y económicas, no una que nos aleje aún más”. 1
En su artículo ‘Getting AI Right’ 2 James Maniyka escribe: ‘Si bien los titulares tienden a presentar resultados y demostraciones de un futuro por venir, la IA y sus tecnologías asociadas ya están aquí y permean nuestra vida diaria más de lo que muchos creen. Los ejemplos incluyen sistemas de recomendación, búsqueda, traductores de idiomas (que ahora cubren más de cien idiomas), reconocimiento facial, voz a texto (y viceversa), asistentes digitales, chatbots para servicio al cliente, detección de fraude, sistemas de apoyo a la toma de decisiones, sistemas de gestión de energía y herramientas para investigación científica, por nombrar algunos’. Continúa diciendo que en 2006 Nick Bostrom, 3 director del Future of Humanity Institute de la Universidad de Oxford señaló que «gran parte de la IA de vanguardia se ha filtrado en aplicaciones generales, a menudo sin llamarse IA porque una vez que algo se vuelve lo suficientemente útil y común, ya no se etiqueta como IA».
El término IA es complejo. Marvin Minsky 4 lo llamó una «palabra maleta» que, según él, «se empaqueta de diversas formas, según a quién le preguntes». No pretendo entender el complejo mundo de la IA. Mi comprensión de él es la que se describe en la introducción del informe de la UNESCO Inteligencia artificial e igualdad de género 5 : «En pocas palabras, la inteligencia artificial (IA) implica el uso de computadoras para clasificar, analizar y extraer predicciones de conjuntos de datos, utilizando un conjunto de reglas llamadas algoritmos. Los algoritmos de IA se entrenan utilizando grandes conjuntos de datos para que puedan identificar patrones, hacer predicciones, recomendar acciones y averiguar qué hacer en situaciones desconocidas, aprendiendo de nuevos datos y mejorando así con el tiempo. La capacidad de un sistema de IA para mejorar automáticamente a través de la experiencia se conoce como aprendizaje automático (ML)». Sin embargo, la IA es omnipresente y, si crees en algunos de los sitios web y directores ejecutivos de empresas de IA 6 , 7 , se ofrece como una panacea para una variedad de problemas, desde acabar con la pobreza hasta revertir el cambio climático.
Cada vez hay más investigaciones sobre el impacto de la IA en la desigualdad. Una de las cuestiones que se debaten es si las tecnologías de IA y sus aplicaciones pueden, al menos en el corto y mediano plazo, aumentar la desigualdad debido a la automatización de la IA. 8 , 9 Las investigaciones sugieren que la IA, de la que se espera que emita juicios objetivos e imparciales, termina reproduciendo los sesgos y las desigualdades de las sociedades en las que está «entrenada». «La equidad, la rendición de cuentas y la transparencia» se han convertido en una importante agenda de investigación en el campo del aprendizaje automático. 10 Los datos de entrenamiento inadecuados han dado lugar a modelos de IA inexactos para la evaluación del riesgo de enfermedades, la predicción pronóstica y el uso de medicamentos para las poblaciones desfavorecidas por los datos. 11–14 Las investigaciones han documentado las formas en que «las decisiones automatizadas están privando a las personas de los beneficios gubernamentales, discriminando por motivos de sexo, color de piel, edad y muchas otras formas de diferencia, eligiendo a quién se vigila, a quién se encarcela o a quién se apunta para la explotación económica». 14 Según David Leslie et al. 13 , “el impacto del covid-19 ha recaído desproporcionadamente en las comunidades desfavorecidas y vulnerables, y el uso de tecnologías de inteligencia artificial (IA) para combatir la pandemia corre el riesgo de agravar estas desigualdades”.
Fisher y Rosella 15 opinan que «la IA tiene el potencial de mejorar la capacidad de la salud pública para promover la salud de todas las personas en todas las comunidades». En su artículo «Using artificial intelligence to improve public health: a narrativa review» (Uso de la inteligencia artificial para mejorar la salud pública: una revisión narrativa), David B. Olawade et al 16 sostienen que «la capacidad de la IA para reunir diversos conjuntos de datos permite obtener información que de otro modo sería difícil de desarrollar con los métodos tradicionales». Opinan que «los algoritmos se pueden emplear de manera iterativa, con resultados de políticas monitoreados y, posteriormente, informando y mejorando las políticas futuras. Aprovechar estos conocimientos permitirá desarrollar políticas mejor dirigidas, impactantes y oportunas». También advierten que, aunque «la IA tiene mucho que ofrecer a los responsables de las políticas, pero, como todas las nuevas tecnologías, la confianza y la educación sobre cómo usarla de manera eficaz y responsable son fundamentales para su futura adopción y utilidad».
Hay algunas evidencias de que la IA tiene usos en la salud pública, desde la vigilancia hasta el desarrollo de políticas específicas. Sin embargo, «las consideraciones para la salud pública son claramente diferentes de las que se aplican a los sistemas clínicos o de atención de la salud». 15 Como dijo António Guterres de la ONU en su discurso especial en el Foro Económico Mundial 17 : «Esta tecnología tiene un enorme potencial para el desarrollo sostenible, pero el Fondo Monetario Internacional acaba de advertir que es muy probable que empeore la desigualdad. Las poderosas empresas tecnológicas ya están buscando ganancias con un desprecio temerario por los derechos humanos, la privacidad personal y el impacto social. Esto no es ningún secreto. Estos dos temas (el clima y la IA) son discutidos exhaustivamente por los gobiernos, los medios de comunicación y los líderes aquí en Davos. Y, sin embargo, no tenemos una estrategia global efectiva para abordar ninguno de los dos».
‘A diferencia de otras aplicaciones de IA donde el objetivo es identificar un modelo único para superar una única métrica y punto de referencia, en situaciones donde las poblaciones vulnerables están en riesgo, se debe adoptar un enfoque más sensible con un enfoque en los valores atípicos como métricas para evaluar el fracaso así como el éxito’. 11 El informe CIFAR AI for Public Health Equity 18 recomienda ‘la colaboración de los profesionales e investigadores de salud pública con investigadores de informática e IA, además de una amplia gama de otros grupos (por ejemplo, sociólogos, politólogos, ingenieros, sociedad civil y científicos ciudadanos, personas con experiencia vivida, formuladores de políticas) para ayudar a garantizar la equidad en salud al utilizar tecnologías de IA’.
La salud pública tiene un papel que desempeñar para aprovechar las posibilidades y los beneficios de la IA, considerando cuidadosamente los desafíos y las consecuencias no deseadas de la IA, trabajando en colaboración con una variedad de expertos y la sociedad civil para explorar y explotar el potencial de la IA para «mejorar la capacidad de la salud pública para promover la salud de todas las personas en todas las comunidades»
