La inteligencia artificial, los algoritmos de conocimiento, que permiten ampliar los horizontes de búsqueda, no pasar por alto información o imágenes que nos permitan hacer un diagnóstico apropiado, en mamografía, tomografías de tórax, anatomía patológica. oftalmología, para adecuar tratamientos etc. Dependen de que lo utilicen, muchos de los que no desean utilizarlo, desconocen su aplicabilidad, también depende de la calidad de los datos y la maduración de las relaciones causales que sirven para ir realizando estudios, no reemplazarán al especialista de imágenes, pero ayudarán a que no se le pase por alto algo importante, tendrá que evolucionar, al principio funcionar en paralelo, ir creciendo, ampliando sus horizontes, permitirá un aprendizaje más automatizado, también está avanzando en el campo clínico, y desde donde uno lo visibiliza si se democratiza el acceso, permitirá la difusión rápida de los nuevos conocimientos que podrán estar disponibles en todo el planeta.
- Ofrecer un diagnóstico preciso y más rápido.
- Agilizar los tiempos de investigación para el desarrollo de nuevos fármacos y sobre determinadas enfermedades.
- Mejorar el control y el seguimiento de pacientes crónicos mediante dispositivos electrónicos y wearables.
- Aliviar la carga de trabajo a profesionales médicos.
Con todo esto, es evidente que la inteligencia artificial en el campo de la salud ha llegado para quedarse. De hecho, las previsiones para el futuro apuntan a una mayor presencia de la asistencia robótica en ámbitos médicos como la cirugía. Aunque en la actualidad el factor humano todavía es imprescindible, el futuro de la medicina pasa por la indudable aplicación de la tecnología en sus procesos.
1. Análisis médicos y de imágenes
Una de las ventajas más importantes de la IA es la rapidez con la que puede procesar elevadas cantidades de datos. Esto es especialmente relevante a la hora de analizar diferentes pruebas médicas (resonancias, estudios genéticos…).
De hecho, gracias al aumento de registros electrónicos debido a la recopilación que se hace con sensores y dispositivos wearables, se dispone de una mayor cantidad de datos que, gracias a la IA, se pueden procesar y analizar.
2. Diagnósticos médicos
Esta es otra de las aplicaciones más interesantes, pues se pueden analizar los datos para realizar diagnósticos certeros y precoces. Su utilidad en este aspecto está fuera de toda duda, sobre todo para enfermedades que se desarrollan muy rápido, como algunas patologías degenerativas o ciertos tipos de cáncer. Al identificarlos a tiempo, el tratamiento puede comenzar antes y parar su progresión.
Un claro ejemplo de la eficacia en este campo es su aplicación en los casos de cáncer de mama. Gracias a la inteligencia artificial se han desarrollado sistemas de detección precoz que permiten realizar mamografías eficaces en las etapas más tempranas de la enfermedad, así como mejorar la precisión de los radiólogos.
3. Tratamientos farmacológicos
En el campo de la farmacología, la IA también ofrece numerosas ventajas, ya que facilita el trabajo de los investigadores a la hora de analizar las secuencias genéticas para hallar las vacunas o soluciones adecuadas para diferentes tecnologías. De forma indirecta se podría decir que a través de esta aplicación de la tecnología se han salvado millones de vidas.
4. Genética
Este es otro de los campos que, en el futuro, se va a ver más beneficiado por la aplicación de la IA. En la actualidad ya existen herramientas que así lo demuestran, como la aplicación móvil que a través de un sistema de reconocimiento facial permite detectar enfermedades raras y trastornos genéticos. Una simple fotografía es suficiente para que esta tecnología pueda procesar una base de datos de hasta 8000 enfermedades diferentes.
5. Embarazos
Gracias a la aplicación de la IA durante el embarazo, la visión del feto es mucho mayor. Esto permite, junto a un análisis pormenorizado de los datos, obtener cómodamente grandes cantidades de datos del estado del embarazo en tiempo real. Esta aplicación posibilita disfrutar de embarazos más seguros y prescindir de procedimientos invasivos para identificar malformaciones.
6. Prótesis
Las prótesis inteligentes son aquellas que aprenden de la persona que la lleva, de manera que se adapte mucho mejor a sus necesidades y movimientos. Se trata de apéndices mecánicos que no sólo sustituyen a un miembro del cuerpo, sino que memorizan los patrones de movimiento de la persona y pueden ser controlados mediante una aplicación.
Creciente uso y confianza en la inteligencia artificial para la prestación de atención
- William Gordon, MD, MBI, FAMIA
Publicado marzo 16, 2022
NEJM Catalyst Innovations in Care Delivery 2022; 04
DOI:https://doi.org/10.1056/CAT.22.0095
Análisis del Asesor
El uso de la inteligencia artificial (IA) y el aprendizaje automático (ML) en la prestación de atención médica se está acelerando. Las organizaciones de atención médica están utilizando la IA en una amplia gama de áreas clínicas, aplicaciones funcionales y tipos de datos, y la confianza de los proveedores en la precisión y efectividad de la IA aumenta a medida que los médicos y líderes experimentan sus beneficios de primera mano.
En una encuesta de diciembre de 2021 de los miembros del Consejo de NEJM Catalyst Insights, que son médicos, líderes clínicos y ejecutivos de organizaciones de todo el mundo que están directamente involucradas en la prestación de atención, el 30% de los encuestados a nivel mundial dicen que su organización actualmente usa aplicaciones de IA, y otro 25% informa que lo harán dentro de 2 años. Entre los encuestados estadounidenses, el 35% indica que actualmente utiliza aplicaciones de IA, ocho puntos porcentuales más que nuestra encuesta de 2019 sobre el mismo tema (Figura 1).
La confianza en la precisión de los diagnósticos clínicos y la toma de decisiones de los sistemas de IA está creciendo. A nivel mundial, el 59% de los encuestados expresa confianza en la precisión de la IA. Entre los encuestados estadounidenses, el 55% dice que confía en la precisión de los sistemas de IA, 6 puntos porcentuales más que en 2019. En la encuesta de 2019, poco más de la mitad de los encuestados no confiaban en la precisión de la IA, lo que marcó un punto de inflexión en las últimas respuestas.
La mitad de los encuestados a nivel mundial dicen que la salud del paciente ha mejorado, mejorado mucho o extremadamente mejorado por las iniciativas de IA. Los encuestados estadounidenses ven una mejora sustancial en la salud del paciente a partir de la IA desde 2019, del 47% al 63% en la última encuesta, un aumento de 16 puntos porcentuales.
Es genial que los encuestados confíen ampliamente en la toma de decisiones de IA, pero tenga en cuenta que hay muy pocos que dicen que tienen mucha o mucha confianza.
William Gordon, MD, MBI, FAMIA, es Director de Soluciones y Experiencia para la Transformación de la Atención Digital en Mass General Brigham, Internista en Brigham and Women’s Hospital y Profesor Asistente de Medicina en la Escuela de Medicina de Harvard. Dice que si bien los miembros del Consejo de Insights confían en la precisión de la IA en general, los datos de la encuesta sugieren que no están completamente convencidos de la tecnología.
«Es genial que los encuestados confíen ampliamente en la toma de decisiones de IA, pero tenga en cuenta que hay muy pocos que dicen que tienen mucha o mucha confianza», dice. «Creo que eso es revelador porque sospecho que si le preguntas a un líder clínico sobre su confianza en sus mejores médicos, dirían que tienen mucha confianza en sus habilidades. Pero la confianza en la IA sigue siendo algo restringida, especialmente con los proveedores que aún no han implementado soluciones».
El uso líder de la IA en las organizaciones de atención médica por un amplio margen es para el apoyo a la toma de decisiones, indicado por más de dos tercios de los encuestados. Cerca de la mitad de los encuestados dicen que sus organizaciones utilizan la IA para la investigación y el diagnóstico.
El uso de la IA para analizar datos de imágenes sigue siendo muy prometedor y ha demostrado grandes resultados estadísticos con altos valores predictivos positivos y negativos.
«Las primeras aplicaciones de la IA tuvieron mucho éxito con las especialidades visuales, como la patología y la oftalmología», comenta Gordon. La IA es particularmente útil para «cualquier aplicación en la que haya un gran componente visual del diagnóstico, ya sea que esté examinando imágenes en una diapositiva, los ojos de alguien o su piel. El uso de la IA para analizar datos de imágenes sigue siendo muy prometedor y ha demostrado grandes resultados estadísticos con altos valores predictivos positivos y negativos».
«Sin embargo, el uso de IA para analizar texto libre, como notas clínicas y otras formas de datos clínicos basados en texto en los gráficos, es más desafiante», dice. «Pero se ha avanzado mucho utilizando técnicas de procesamiento de lenguaje natural para extraer significado y significado del texto, y luego codificar esos datos para que pueda entrenar un modelo de aprendizaje automático para trabajar en esos conceptos».
Se ha avanzado mucho utilizando técnicas de procesamiento del lenguaje natural para extraer el significado y la importancia del texto.
El principal uso de datos para la IA, entre los encuestados cuyas organizaciones emplean IA, son los datos clínicos por un amplio margen. Los siguientes en la lista de usos de datos son los datos de salud de la población y los datos de operaciones. Los encuestados muestran un creciente interés en los datos de los determinantes sociales de la salud (SDOH). Casi un tercio (31%) de los encuestados a nivel mundial dicen que su organización actualmente utiliza datos SDOH con capacidades de IA. En 2019, el 28% de los encuestados estadounidenses indicaron la aplicación de datos de SDOH, en comparación con el 35% en la encuesta de 2021, un aumento de siete puntos porcentuales.
«Creo que la respuesta para usar datos de SDOH es uno de los hallazgos más interesantes de la encuesta», dice Gordon. «Las personas son mucho más conscientes de su importancia para impulsar los resultados de salud. Como ejemplo, muchos de los proveedores de EHR (registros electrónicos de salud) están comenzando a capturar estos datos en campos discretos para atributos como la seguridad alimentaria, la seguridad de la vivienda y el transporte, lo que reduce su dependencia del procesamiento del lenguaje natural para extraer el significado de las notas basadas en texto. Y muchos de estos aspectos de SDOH son predictivos de los resultados de salud y pueden ser muy valiosos para que las organizaciones de atención médica los capturen».
Entre los encuestados cuyas organizaciones hacen uso de la IA, la atención hospitalaria y la atención especializada son las principales áreas clínicas que utilizan la IA, seguidas de la atención primaria y la atención ambulatoria. Entre los departamentos / líneas de servicio que utilizan IA, tres lideran el camino: atención primaria, imágenes / radiología y atención hospitalaria.
Critical care in particular generates a lot of interesting streams of data, and there’s significant interest in capturing this information in real time and using it for AI applications.
Gordon notes that “Critical care in particular generates a lot of interesting streams of data, and there’s significant interest in capturing this information in real time and using it for AI applications. For example, monitoring vital signs, ventilator use, and other waveform data. And this overlaps with anesthesiology and perioperative care in terms of the data you’re capturing.”
The survey results show a broad range of departments and service lines using AI, albeit many at low levels. Dermatology is at the bottom of list (indicated by 7% of respondents globally). But Gordon cites dermatology uses of AI as an example of how AI may ultimately “blur lines” between primary care and specialist care.
“There’s been a lot of recent AI work involving dermatology and using it for melanoma screening. Will primary care physicians augmented with AI reach a point where patients don’t need to be referred to a dermatologist? Or will dermatologists be the ones using augmented AI models to help them identify which moles need a biopsy? This survey data, which indicates that few dermatologists are using AI compared to more widespread use in primary care, suggests that, at least in some fields, early AI use cases are being used in primary care settings and that there may be more value here.”
Charts and Commentary
NEJM Catalyst surveyed health care executives, clinical leaders, and clinicians in December 2021 about artificial intelligence. Specifically, respondents were asked about the use of AI applications/use cases at their organizations; the types of data using AI capabilities; the uses of AI, clinical areas using AI, and departments/service lines using AI at their organizations; stakeholder responsibility for clinical AI governance; funding of clinical AI installation and ongoing implementation; improvement of patient health due to AI initiatives; impact on clinician effectiveness when augmented by AI; and confidence in the accuracy of AI systems’ clinical diagnoses and decision-making. A total of 964 completed surveys are included in the analysis for all respondents globally, including 558 from U.S.-based respondents. Results for U.S. responses are compared to our August 2019 Insights Report on AI (708 completed surveys) where applicable.
El treinta por ciento de los miembros del Consejo de Insights a nivel mundial dicen que su organización utiliza aplicaciones de inteligencia artificial / aprendizaje automático, con un mayor porcentaje de encuestados estadounidenses (35%) que no estadounidenses. encuestados (23%) que informan que utilizan este tipo de aplicación. Sin embargo, las respuestas sugieren que la brecha puede no durar mucho tiempo, ya que un mayor porcentaje de encuestados de fuera de los Estados Unidos (33%) que los encuestados estadounidenses (18%) indican que planean usar aplicaciones de IA en los próximos 2 años (Figura 2).
El impulso para el uso de aplicaciones de inteligencia artificial / aprendizaje automático en la atención médica está aumentando, con más de un tercio de los encuestados estadounidenses en 2021 informando su uso en comparación con un poco más de una cuarta parte en nuestra encuesta de 2019 sobre el mismo tema. Del mismo modo, en 2021, aproximadamente una cuarta parte de los encuestados estadounidenses dicen que no usan IA y no tienen planes, en comparación con aproximadamente un tercio de los encuestados en 2019.
Más ejecutivos estadounidenses (47%) y líderes clínicos (44%) que médicos (23%) dicen que su organización utiliza aplicaciones de inteligencia artificial / aprendizaje automático.
Cuatro quintas partes de los miembros del Consejo de Insights que dicen que su organización utiliza aplicaciones de IA informan que trabajan con datos clínicos, casi el doble de la respuesta para los datos de salud de la población (Figura 3). El mayor aumento de nuestra encuesta de 2019 es para los datos de SDOH de los pacientes, que aumentaron siete puntos porcentuales durante el período.
In written comments from respondents, a U.S. clinician says that his biggest concerns about AI in health care are, “As we move to emphasize prevention and root cause of disease from a health equity and SDOH perspective, will AI help the individual patient or populations of patients? Will it help or harm individual patients? Also, the differential diagnosis of common symptoms is vast — the story/HPI (history of present illness) is key to a focused workup and diagnosis.”
A higher percentage of U.S. respondents (46%) than non-U.S. respondents (34%) say that they use population health data with AI applications. A higher percentage of U.S. respondents (35%) than non-U.S. respondents (22%) say they use patient SDOH data with AI applications.
Among Insights Council members who report using AI, slightly more than two-thirds indicate that decision support is the top application of the technology (Figure 4). Un porcentaje significativamente mayor de encuestados estadounidenses que de encuestados fuera de los Estados Unidos dicen que usan IA para operaciones (46% frente a 22%) y apoyo a la toma de decisiones (71% frente a 58%).
Un líder clínico de los Países Bajos comenta que la «importancia de combinar la alta tecnología de la IA con el High Touch médico aún no se ha desarrollado».
Un mayor porcentaje de personas no estadounidenses los encuestados (64%) que los estadounidenses (45%) dicen que sus organizaciones utilizan la IA para el diagnóstico.
Entre los encuestados que informan que su organización utiliza IA, las dos áreas clínicas principales son la atención especializada y la atención hospitalaria, y aproximadamente la mitad de los encuestados informan este uso (Figura 5). Un mayor porcentaje de personas no estadounidenses los encuestados (22%) que los estadounidenses (12%) dicen que utilizan la IA para la atención perioperatoria.
A clinician from Australia says his biggest AI concern is “that clinical knowledge will not be retained and that clinicians will become dependent on the judgment of the AI rather than their own experience in the field. I see AI as an adjunct rather than as a complete knowledge base. It should assist and suggest rather than completely diagnose.”
A higher percentage of U.S. respondents from nonprofit than for-profit organizations mention inpatient care (62% versus 29%) and outpatient care (49% versus 17%) as clinical areas using AI.
Primary care and imaging/radiology are the top two departments/service lines that use AI, according to survey respondents who say that their organization currently uses AI capabilities (Figure 6). A higher percentage of U.S. respondents than non-U.S. respondents mention primary care (38% versus 25%) and hospitalist care (37% versus 19%) as departments/service lines that use AI.
Un mayor porcentaje de ejecutivos estadounidenses (38%) que médicos (27%) y líderes clínicos (21%) citan el uso de IA en el departamento de emergencias, y un mayor porcentaje de ejecutivos estadounidenses (26%) que los médicos (13%) y líderes clínicos (11%) mencionan su uso en cirugía general.
A medida que avanzamos para enfatizar la prevención y la causa raíz de la enfermedad desde una perspectiva de equidad en salud y SDOH, ¿ayudará la IA al paciente individual o a las poblaciones de pacientes? ¿Ayudará o dañará a pacientes individuales?
Entre los miembros del Consejo de Insights que dicen que su organización utiliza IA, los encuestados informan un alto nivel de responsabilidad de las partes interesadas para la gobernanza de la IA para ejecutivos y líderes clínicos, con una respuesta de responsabilidad neta del 85%. Los líderes de TI tienen la mayor respuesta de responsabilidad neta con un 94% (Figura 7).
Un médico de los Estados Unidos advierte: «Actualmente, la IA a menudo se implementa como una caja negra con supervisión y administración insuficientes para evitar (o al menos ser transparentes sobre) el sesgo sistemático. Los proveedores tampoco han sido capacitados para comprender lo que representa el resultado, sus limitaciones y cómo se debe actuar sobre él. Es necesario que haya un comité de gobernanza general reflexivo (tal vez un comité público / privado de FACA [asesor federal]) o un departamento de agencia para ayudar a proporcionar una guía sólida sobre las aplicaciones de IA en la atención médica».
Entre los encuestados que dicen que su organización utiliza IA, no estadounidense. los encuestados (80%) informan una responsabilidad neta clínica significativamente mayor en la gobernanza de la IA que los encuestados estadounidenses (56%).
Entre los encuestados que informan que su organización utiliza IA, más del 80% dice que la responsabilidad de financiar la instalación y la implementación continua de la IA clínica recae en su organización en su conjunto (Figura 8). Las aseguradoras/pagadoras reciben la respuesta más baja como fuente de financiamiento.
A clinical leader from the Netherlands is concerned that “(1) that we do not use [AI’s] full potential and (2) that we underestimate the complexity, duration, and costs of developing a good AI solution.”
Un porcentaje más alto de encuestados estadounidenses que no estadounidenses. Los encuestados dicen que la responsabilidad de financiar la instalación (18% frente al 5%) y la implementación en curso (21% frente al 7%) de la IA clínica reside en el departamento de TI (Figura 9).
La mitad de los encuestados a nivel mundial dicen que la salud del paciente ha mejorado netamente gracias a las iniciativas de IA, y solo el 19% dice que la salud del paciente no mejora mucho o nada. Un mayor porcentaje de personas no estadounidenses los encuestados (57%) que los estadounidenses (44%) dicen que la salud del paciente ha mejorado.
Una mayor incidencia de ejecutivos estadounidenses (58%) que los líderes clínicos (46%) y los médicos (35%) dicen que la salud del paciente ha mejorado netamente gracias a las iniciativas de IA.
Entre los encuestados con sede en los Estados Unidos en nuestra encuesta de 2021 que informan que su organización usa IA, el 63% dice que la salud del paciente ha mejorado netamente gracias a las iniciativas de IA (Figura 10). Esto representa un aumento de 16 puntos porcentuales con respecto a nuestra encuesta de 2019.
Un ejecutivo estadounidense advierte que «como todos los avances científicos, la implementación de los avances diagnósticos / terapéuticos de inteligencia artificial tiene que ser juzgada por rigurosos estudios doble ciego, controlados con placebo que muestran una mejora de los resultados en cada ejemplo específico».
Cincuenta y cuatro por ciento de los encuestados a nivel mundial informan que el rendimiento de los médicos es neto efectivo cuando es aumentado por la IA, y solo el 3% dice que no todo es efectivo (Figura 11). Un mayor porcentaje de personas no estadounidenses los encuestados (64%) que los estadounidenses (46%) dicen que el rendimiento clínico es efectivo cuando se ve aumentado por la IA.
Un mayor porcentaje de ejecutivos estadounidenses (54%) que los líderes clínicos (49%) y los médicos (40%) indican que el rendimiento de los médicos es neto efectivo cuando se ve aumentado por la IA (Figura 12). La mayoría de los miembros del Insights Council confían netamente en la precisión de los diagnósticos clínicos y la toma de decisiones de los sistemas de IA actuales, aunque el 42% no tiene mucha o ninguna confianza. Un mayor porcentaje de personas no estadounidenses los encuestados (64%) que los estadounidenses (54%) confían netamente en su precisión.
Un médico de los Estados Unidos dice: «Para las exploraciones de retina, la revisión de imágenes, etc., la IA puede resultar muy precisa, pero para muchas cosas los resultados dependen en gran medida de la precisión de los datos disponibles, que todavía están sujetos a errores humanos».
Un mayor porcentaje de ejecutivos estadounidenses (65%) y líderes clínicos (61%) que de médicos (44%) confían netamente en la precisión de los diagnósticos clínicos y la toma de decisiones de los sistemas de IA actuales.
Cincuenta y cuatro por ciento de los encuestados estadounidenses dicen que confían netamente en la precisión de los diagnósticos clínicos y la toma de decisiones de los sistemas de IA actuales, una cifra que es cinco puntos porcentuales más alta que en nuestra encuesta de 2019 (Figura 13). Reflejando esta tendencia, el 38% de los encuestados de 2021 dicen que no tienen mucha confianza, una disminución de cinco puntos porcentuales con respecto a 2019.
A clinical leader from India says, “Use of artificial intelligence as an aid to clinicians and doctors is fine. It is certainly going to be a boon to help busy practitioners in repetitive tasks with more assured accuracy. However, with further use and development in this field a situation can arise in which the machine starts making the clinical decisions for the patient, which to my mind is a bit scary!”
Confidence levels in accuracy among U.S. survey respondents who report that their organization currently uses AI have increased, with 76% in the 2021 survey saying that they are net confident, versus 66% in 2019.
Verbatim Comments from Survey Respondents
WHAT IS YOUR BIGGEST CONCERN ABOUT THE USE OF ARTIFICIAL INTELLIGENCE IN HEALTH CARE? (FIGURE 14)
QUALITY OF INPUT FOR AI PROGRAMMING, TRAINING/DATA SETS
I don’t think we have enough clinical oversight. I would like to see physicians take on a larger role in evaluating and implementing the types of AI programs that will actually help physicians do their work. If we can automate tasks for clinicians that take them away from the bedside, we create more space for the physician and patient to connect. If we streamline specific activities by predicting what is needed, we can better prioritize work. I think the potential for AI in health care is enormous — but it isn’t being used in a way that truly benefits clinicians.
— Executive at a nonprofit health system in the U.S.
That powerful entities outside of health care will control the development and deployment, rather than AI evolving as a useful tool for health care personnel because they guide the development so that the tools are truly useful. In other words, that we will see a repeat of how the evolution of electronic health record systems was commandeered by a few powerful players along with government guidance that, though probably well intentioned, altered the trajectory and rapidity of evolution and has left us with tools that are not very useful at best, and frustrating to frontline users at worst.
— Vice President at a nonprofit professional services organization in the U.S.
RELIANCE ON AI ALONE, RATHER THAN TO AUGMENT CLINICIAN
Extreme dependence of physician on AI tools even though AI tools are still not 100% precise and sometimes require more of clinical judgement, which is noticed to be missing if not enough attention paid by the physician.
— Clinician at a nonprofit university in the U.S.
I am very excited about the use of augmented intelligence and believe it will be transformative. My biggest concern is the AI/human interface. AI will help do things that humans are not so good at or do too slowly; but in the end, health care is a human endeavor, and the machines have to serve the humans, not the other way around.
— Vice President at a nonprofit physician organization in the U.S.
That it is not reliable for diagnosis. Could be helpful — maybe — if it is used BY the doctor rather than INSTEAD of the doctor.
— Clinician at a nonprofit clinic in the U.S.
BIASED DATA
Currently, AI is often deployed as a black box with insufficient oversight and stewardship to avoid (or at least be transparent about) systematic bias. Providers also have not been trained to understand what the output represents, its limitations, and how it should be acted upon. There needs to be a thoughtful overarching governance committee (perhaps a public/private FACA committee) or agency department to help provide some robust guidance about AI applications in health care, especially when it affects patient-care decisions. Right now, it is too much of a free-for-all. Even if the efforts are well intentioned, we need to consider patient safety as a floor.
— Clinician at a nonprofit university in the U.S.
Biased data and limited understanding of models and output leading to inappropriate decisions.
— Vice President at a health system in the U.S.
DIMINISHES THE IMPORTANCE OF PATIENT-PHYSICIAN RELATIONSHIP
There is a great opportunity for AI to augment but not replace clinical thought. Like most, we have used AI-supported mammography readings for years. Even commonplace EKG readings are an early form of AI. The greatest problem is we have required our clinical staff to feed EHRs that are divided into hundreds of distinct data points that could be mined with logical and mathematical manipulations. We produce a record that does not convey the clinical state well and burns out our most precious asset, our people. For tens of thousands of years humans have communicated by story and for thousands of those years we have written those stories. Now we are encouraged to transmit our knowledge via discrete bits. This offers the promise of greater population health via aggregation, but this is not done. This interferes with the transmission of the patient’s state on a one-to-one basis. It’s a lose, lose problem.
— Chief Medical Officer at a for-profit community hospital in the U.S.
The human interaction should be the cornerstone for medical-patient interaction. AI can never substitute the power of human understanding and kindness.
— Clinician at a nonprofit clinic in Venezuela
INABILITY TO FACTOR IN INTANGIBLES, COMPLEX SITUATIONS, NUANCE
Health care is an art and science — AI covers the science aspect but the art is lost. With almost 40 years of clinical experience, there are times when a “gut feeling” influences the decision-making process. Often this is significant.
— Clinician at a for-profit clinic in Canada
Probably the rare cases with common presentation, or the frequent cases with uncommon presentation.
— Clinician at a nonprofit teaching hospital in Peru
That it can’t replicate the nuances of human assessment.
— Vice President at a nonprofit health system in the U.S.
PRIVACY, DATA SECURITY, GOVERNANCE
It will be important for organizations looking to leverage AI for clinical care to build the infrastructure and governance processes to ensure products are safe, reliable, and ethical before they reach patients.
— Vice President at a nonprofit health system in the U.S.
Malware and theft or tampering with personal data and medical information.
— Clinician at a for-profit community hospital in the U.S.
ACCURACY
Accuracy of self-learning algorithms.
— CEO at a nonprofit health system in the Netherlands
Glitches in the machine learning algorithms while dealing with big data and multiple data points. Also image analysis, which plays a big role in outcome evaluation, and pathological and clinical response criteria need to be very precise and translatable to clinical management.
— CEO at a for-profit community hospital in the U.S.
COST AND RESOURCES REQUIRED TO IMPLEMENT AI
I work in long term-care. We need technology desperately — even a functional EHR. AI could help, but no one is interested in our sector at all for even the most basics of hardware and Wi-Fi. I cannot imagine anyone would develop AI for us.
— Vice President at a for-profit long-term care facility in the U.S.
Lack of financial resources, staff training, and institution policies.
— Clinician at a nonprofit community hospital in Mexico
LACK OF ACCEPTANCE AND CONFIDENCE IN AI
Generate confidence in health personnel to access and use more frequently the technologies that have AI immersed.
— Service line chief at a for-profit physician organization in Colombia
We’ve seen attempts to use so-called artificial intelligence to enhance the diagnostic process before (Iliad, QMR, and most recently Isabel). Interesting attempts. Nearly totally useless when compared to an experienced diagnostician. Recent attempts to provide early indications about sepsis among hospitalized patients based on machine learning from electronic records, have also been less than convincing. So, count me extremely skeptical that AI will generate more than buzz and noise.
— Clinical leader at a nonprofit teaching hospital in the U.S.
IMPROPER APPLICATION OF AI TECHNOLOGY
The health care system needs to embrace computers when computers are able to process information better than humans and work in harmony with the delivery of care. Currently, AI is only as good as the structure provided by the developers. It is a piece of the puzzle that will improve with time, but cannot be a stand-alone solution to providing health care. The transformation of health care in providing value-based care needs to recognize where AI fits in the new workflow.
— Consultant at a nonprofit clinic in the U.S.
Use of artificial intelligence as an aid to clinicians and doctors is fine. It is certainly going to be a boon to help busy practitioners in repetitive tasks with more assured accuracy. However, with further use and developments in this field, a situation can arise in which the machine starts making the clinical decisions for the patient, which to my mind is a bit scary!
— Clinical leader at a nonprofit university hospital in India
OVERUSE AND OVERDEPENDENCE ON AI, DECREASE IN CLINICIAN’S SKILLS
That clinical knowledge will not be retained and that clinicians will become dependent on the judgement of the AI rather than their own experience in the field. I see AI as an adjunct rather than as a complete knowledge base. It should assist and suggest rather than completely diagnose.
— Clinician at a nonprofit community hospital in Australia
The dehumanization of medical care and the lack of clinical sense in young doctors at the bedside.
— Clinical leader at a nonprofit university in Spain
Younger generation will become dependent on someone else to do the thinking. Lack of knowledge as to how it fits into the patient and family’s life.
— Clinician at a nonprofit in the U.S.
POOR OUTCOMES, INAPPROPRIATE TREATMENT
Que los errores estadísticos que serían obvios para un médico humano, podrían ser malinterpretados o pasados por alto por la IA. Mientras que la IA es verdaderamente superlativa en la realización de varios tipos de tareas deductivas (como medir, tabular y agregar), no es tan efectiva cuando se le pide que realice análisis o haga pronunciamientos específicos; aunque ve las partes como partes, lo suficientemente bien, con demasiada frecuencia carece de una sensación del todo. (Wordsworth, Abadía de Tintern).
— Clínico en una universidad sin fines de lucro en Canadá
La falta de inteligencia real. El rechazo de la evidencia anecdótica para su propósito designado en el método científico. Los pacientes son la fuente última de información sobre sus propias enfermedades. El rechazo de la evidencia anecdótica por parte de los médicos es la mayor pérdida de información valiosa y disponible para la formación de hipótesis en interés de mejores tratamientos y mejoras en la calidad de vida de los pacientes.
— CEO en una instalación de investigación con fines de lucro en los EE. UU.
Metodología
- La encuesta de Inteligencia Artificial fue realizada por NEJM Catalyst, impulsado por el NEJM Catalyst Insights Council.
- El NEJM Catalyst Insights Council es un grupo calificado de ejecutivos, líderes clínicos y médicos de organizaciones de todo el mundo que están directamente involucrados en la prestación de atención médica.
- En diciembre de 2021, se envió una encuesta en línea al NEJM Catalyst Insights Council.
- Un total de 964 encuestas completadas se incluyen en el análisis para todos los encuestados a nivel mundial. El margen de error para una base de 964 es de +/- 3,2% en el intervalo de confianza del 95%. Los resultados solo en Estados Unidos (n = 558, +/- 4.1%) se proporcionan como un desglose separado. Los resultados de las respuestas de EE. UU. se comparan con nuestro Informe de insights sobre IA de agosto de 2019 (708 encuestas completadas) cuando corresponda.
Consejo de NEJM Catalyst Insights
Nos gustaría agradecer al NEJM Catalyst Insights Council. Los miembros del Consejo de Insights participan en encuestas mensuales con temas específicos sobre la prestación de atención médica. Estos resultados se publican como NEJM Catalyst Insights Reports, como este, que incluye hallazgos resumidos, conclusiones clave de los líderes de NEJM Catalyst, análisis de expertos y comentarios.
Es a través de la participación y el compromiso del Insights Council con la transformación de la prestación de atención médica que podemos proporcionar datos procesables que pueden ayudar a que la industria avance (Figura 15). Para unirse a sus compañeros en la conversación, visite https://catalyst.nejm.org/insights-council.
Gestión y Economía de la Salud 