Esta revisión está dedicada al equipo de gestión del hospital Ramón Carrillo de San Luis, con el liderazgo de un grupo de profesionales que han desarrollado el hospital más moderno y tecnológico de la Argentina con un Dashboard que es esta creciendo y madurando para incorporarlo al sistema técnico de toma de decisiones con indicadores estratégicos operativos y financieros a tiempo real. El propósito innovador del panel que ellos diseñaron es que tiene tres ejes indicadores estadísticos de utilización de los recursos hospitalarios, el seguimiento de indicadores estratégicos y los real time y el funcionamiento de los servicios técnicos de apoyo a la gestión del complejo edilicio hospital. Tres miradas complementarias, sinérgicas orientadas a la producción, la seguridad y la calidad.
El trabajo que se comenta es de Bucalon B, Shaw T, Brown K, Kay J. State-of-the-art Dashboards on Clinical Indicator Data to Support Reflection on Practice: Scoping Review. JMIR Med Inform. 2022;10(2):e 32695. Published 2022 Feb 14. doi:10.2196/32695
Desarrollo:
Existe un creciente interés en el uso de datos de salud electrónica recopilados de forma rutinaria para apoyar la práctica reflexiva y el aprendizaje profesional a largo plazo. Los estudios han evaluado el impacto de los paneles en la toma de decisiones de los médicos, el tiempo de finalización de las tareas, la satisfacción del usuario y el cumplimiento de las pautas clínicas.
Se evaluaron un total de 18 cuadros de mando de 8 países. Los propósitos de los paneles se diseñaron para la mejora del rendimiento (10/18, 56%), para apoyar las iniciativas de calidad y seguridad (6/18, 33%), y la gestión y las operaciones (4/18, 22%). Las visualizaciones de datos se diseñaron principalmente para el uso en equipo (12/18, 67%) en lugar de médicos individuales (4/18, 22%). Los métodos de evaluación variaron entre preguntar directamente a los médicos (18/11, 61%), observar el comportamiento del usuario a través de indicadores clínicos y datos de registro de uso (14/18, 78%) y pruebas de usabilidad (4/18, 22%). Los estudios informaron puntuaciones altas en cuestionarios de utilización estándar, encuestas favorables y comentarios de entrevistas. Se observaron mejoras en los indicadores clínicos subyacentes en el 78% (7/9) de los estudios, mientras que el 22% (2/9) de los estudios no informaron cambios significativos en el rendimiento.
Conclusiones
Esta revisión de alcance analiza el panorama actual de la literatura en paneles basados en datos de indicadores clínicos recopilados rutinariamente. Aunque hubo técnicas comunes de visualización de datos e indicadores clínicos utilizados en todos los estudios, hubo diversidad en el diseño de los paneles y su evaluación. Hubo una falta de detalles con respecto a los procesos de diseño documentados para la reproductibilidad. Identificamos una falta de características de interfaz para ayudar a los médicos a dar sentido y reflexionar sobre sus datos personales de rendimiento.
Desarrollo:
Los paneles han evolucionado de información de informes de Vista única basada en grandes conjuntos de datos sin procesar a interfaces personalizables con múltiples vistas y propósitos, como comunicación, aprendizaje, motivación, monitoreo y soporte de decisiones [1]. El uso de cuadros de mando en muchos entornos clínicos ha sido bien establecido [2]. Los estudios sobre estos paneles se han centrado en el monitoreo del paciente y el apoyo a las decisiones clínicas utilizando registros médicos electrónicos (EMR), sistemas electrónicos de auditoría y retroalimentación (e-A & F) basados en estándares de calidad y seguridad, y paneles de gestión para respaldar las operaciones diarias de los departamentos. Las evaluaciones de los cuadros de mando clínicos tienden a evaluar la precisión (toma de decisiones), la eficiencia (tiempo de finalización de la tarea), la usabilidad (satisfacción del usuario) y el cumplimiento de las directrices (calidad y seguridad) [3-5].
Existen problemas organizativos, culturales y técnicos conocidos con la recopilación y presentación de informes sobre indicadores clínicos [6], a veces denominados indicadores de calidad o rendimiento. A pesar de las limitaciones de los datos de indicadores clínicos, las actitudes de los profesionales de la salud sugieren que existe un apetito por un acceso más fácil y oportuno a los datos de indicadores clínicos recopilados de forma rutinaria para la retroalimentación personalizada del rendimiento [7]. Mainz et al [8] clasifican los indicadores clínicos como indicadores estructurales, de proceso o de resultado. Los indicadores estructurales describen el tipo y el número de recursos de un sistema u organización de salud para brindar atención, por ejemplo, el número de personal, pacientes, camas y suministros. Los indicadores de proceso miden las actividades y tareas en los episodios de atención al paciente, por ejemplo, los pacientes fueron evaluados por un médico dentro de las 24 horas posteriores a la derivación, y los pacientes fueron tratados de acuerdo con las pautas clínicas. Los indicadores de resultado son estados de salud o eventos que siguen a la atención, que pueden verse afectados por la atención médica. Mainz et al [8] proponen que los indicadores de resultado generalmente están relacionados con la muerte, la enfermedad, el malestar, la discapacidad y la insatisfacción. Los indicadores clínicos también se pueden clasificar como genéricos o específicos de la enfermedad. Los indicadores genéricos miden aspectos de la atención que son relevantes para la mayoría de los pacientes (duración de la estancia, readmisiones y altas tardías). Los indicadores específicos de la enfermedad son específicos del diagnóstico y miden aspectos específicos de enfermedades y afecciones (fracturas de cadera después de la segunda operación y pacientes con cáncer de pulmón que están vivos 30 días después de la cirugía).
La práctica reflexiva y el aprendizaje a lo largo de toda la vida son fundamentales para los marcos de desarrollo profesional continuo (CPD) . La participación en los programas de CPD garantiza que los especialistas médicos cumplan con los estándares requeridos para mantener su registro de especialistas. Aunque los exámenes de la junta y las evaluaciones basadas en el trabajo certifican la competencia inicial de los graduados médicos, los médicos en ejercicio requieren una autoevaluación continua para mantener los estándares e identificar las necesidades de mejora [10]. Los marcos de desarrollo profesional a menudo incluyen referencias al uso de datos de práctica para auditorías clínicas y reflexión [11,12].
Los paneles se utilizan comúnmente para auditoría y retroalimentación (A&F), un proceso establecido para mejorar la práctica profesional mediante la revisión de datos basados en puntos de referencia existentes en la literatura de calidad y seguridad [13]. Aunque ha habido algunos éxitos, los estudios existentes sobre los paneles de e-A&F muestran que la evidencia es limitada en términos de efectividad para mejorar el rendimiento [14]. Además, los estudios sobre cuadros de mando diseñados para apoyar la práctica reflexiva clínica y el aprendizaje profesional a lo largo de toda la vida son escasos y heterogéneos [15].
Este trabajo tiene como objetivo llenar el vacío en la literatura sobre el uso de datos de fuentes clínicas dispares para generar nuevos conocimientos que conduzcan a la reflexión práctica por parte de los médicos.
Los paneles de control de e-A&F abordan preguntas conocidas sobre el rendimiento clínico, mientras que los paneles de reflexión de la práctica clínica se centran en presentar datos recopilados de forma rutinaria a los médicos para interactuar y reflexionar y revelar nuevas preguntas sobre su práctica individual y de equipo más amplio.
Objectivos
Esta revisión de alcance tiene como objetivo mapear sistemáticamente las diferentes características de las interfaces de retroalimentación que ayudan a los médicos a reflexionar sobre su práctica. Los datos extraídos de los estudios incluidos proporcionarán información sobre por qué se crearon las interfaces, cómo se diseñaron y evaluaron, y cuáles fueron los resultados informados.
La revisión del alcance se guió por las siguientes 6 preguntas de investigación (RQ):
- RQ1: ¿Cuál fue el propósito de las interfaces de retroalimentación de rendimiento?
- RQ2: ¿Qué indicadores clínicos se utilizaron y cómo se visualizan?
- RQ3: ¿Cómo se diseñaron las interfaces?
- RQ4: ¿Cuáles fueron los métodos utilizados para evaluar las interfaces?
- RQ5: ¿Qué tan exitosas han sido las interfaces?
- RQ6: ¿Cuáles son las consideraciones clave de diseño para desarrollar futuras interfaces?
Visión general
El proceso de revisión del alcance se llevó a cabo siguiendo la metodología y las directrices de Arksey y O’Malley [17]. El proceso se describe en 6 pasos de la siguiente manera: identificación del RQ; identificar los estudios pertinentes; selección de estudios; trazar los datos; cotejar, resumir e informar los resultados; y consulta.
Para garantizar la calidad de los estudios, la revisión solo incluyó estudios publicados en revistas revisadas por pares que tenían el texto completo disponible. No se realizó un análisis de calidad adicional en los estudios incluidos, ya que la evaluación de la calidad no es un requisito para una revisión del alcance [18], y no hay criterios establecidos para evaluar la calidad de los estudios de tablero clínico. No se llevó a cabo una evaluación de la calidad para garantizar que se obtuvieron lecciones de una amplia gama de trabajos.
La revisión exploró el concepto del uso de indicadores clínicos para proporcionar información sobre la propia práctica de un médico. Se generaron sinónimos para el término de búsqueda indicador clínico, como indicador de calidad e indicador de rendimiento. Los términos genéricos para posibles fuentes de datos para indicadores clínicos incluyeron términos de búsqueda, como datos administrativos, médicos y quirúrgicos. Un concepto adicional se centró en la intervención utilizada en el estudio, es decir, la interfaz de usuario de retroalimentación. Los sinónimos de los términos de búsqueda incluían lo siguiente: panel, visualización e informe. Los términos de búsqueda, como la retroalimentación y la reflexión, no se incluyeron específicamente para maximizar la amplitud de la búsqueda. Se aseguró de que los estudios de retroalimentación del rendimiento y del panel de reflexión aún se capturaran en la búsqueda mediante el indicador clínico y los términos de búsqueda de la interfaz.
Peters et al [19] definen un contexto en términos de ubicación geográfica, entorno o factores culturales. No se utilizaron términos de búsqueda específicos para el contexto, ya que no hubo requisitos relacionados con el país de estudio y el entorno hospitalario, como público, privado, paciente hospitalizado, ambulatorio, rural, remoto o metropolitano.
Cuadro 2
País de origen de los estudios incluidos (N=18).
País de origen | Recuento, n (%) | Referencias |
Estados Unidos | 10 (56) | [21,22,24,26-32] |
Australia | 2 (11) | [33,34] |
Otros (Canadá, Francia, Países Bajos, Omán, Suecia y Reino Unido) | 6 (33) |
En total, el 50% (9/18) de los estudios no especificó la duración de la evaluación. De estos estudios, el 56% (5/9) de los estudios se implementaron y evaluaron en entornos hospitalarios del mundo real, y el 44% (4/9) de los estudios se realizaron en entornos de laboratorio controlados. La duración del estudio de evaluación varió entre 2 meses [23] y 42 meses [27].
RQ1: Propósito
Como los estudios se realizaron en una variedad de especialidades médicas, el propósito de cada tablero también fue diverso.
Cuadro 3 muestra que los paneles clínicos en la revisión cayeron uniformemente en 3 categorías. Los paneles de mejora del rendimiento tienen como objetivo presentar datos a un individuo o equipo para reflexionar sobre su práctica e identificar áreas a cambiar. Los paneles de calidad y seguridad rastrean las guías clínicas y los puntos de referencia acordados. Se pueden modelar con modelos de mejora de la práctica clínica existentes, como Plan-Do-Study-Act [39]. Los paneles de gestión y operaciones están dirigidos a administradores y directores de departamentos para apoyar las funciones cotidianas de los servicios de atención médica. Laurent et al [23] se clasificaron como apoyo a la calidad y la seguridad, así como a la gestión y las operaciones.
Cuadro 3
Propósito de los estudios de tablero incluidos agrupados por categoría (N = 18).un
Propósito | Recuento, n (%) | Referencias |
Mejora del rendimiento | 9 (50) | [27-31,33,36-38] |
Calidad y seguridad | 6 (33) | [21,23-25,32,35] |
Gestión y operaciones | 4 (22) | [22,23,26,34] |
Los estudios incluidos pueden estar en más de 1 categoría.
RQ2: Características comunes
La siguiente sección resume los indicadores clínicos comunes utilizados en los paneles, cómo se presentaron los indicadores a los usuarios finales, de dónde se obtuvieron los indicadores y los detalles de la plataforma tecnológica. Al identificar los datos de nivel inferior utilizados y la funcionalidad de cada tablero, podemos ver cómo los investigadores se propusieron cumplir con el propósito de su interfaz de retroalimentación.
Indicadores clínicos
Como se muestra en Cuadro 4, el uso de indicadores clínicos varió entre los estudios. El estudio de Clark et al [34] fue el único estudio que evaluó un tablero que presentó indicadores estructurales a los médicos, como la carga de trabajo del consultor y la disponibilidad de camas. Los indicadores de proceso se utilizaron en todos los estudios, excepto en uno. Los indicadores genéricos más utilizados en los estudios incluyeron los siguientes: duración de la estancia (7/18, 39%), reingreso (4/18, 22%) y alta (3/18, 17%), mientras que % de infecciones respiratorias agudas (IRA) visitas con antibióticos, índice de linfedema (L-Dex) y número de diagnósticos de fibrilación auricular (FA) a lo largo del tiempo fueron ejemplos de indicadores específicos de la especialidad.
Cuadro 4
Indicadores clínicos por tipo de los estudios incluidos (N=18).un
Indicadores clínicos | Recuento, n (%) | Referencias | |
Clasificación | |||
Estructural | 1 (6) | [34] | |
Proceso | 17 (94) | [21-38] | |
Resultado | 5 (28) | [23,26,30,36,38] | |
Especificidad | |||
Genérico | 15 (83) | [22-32,34-37] | |
Enfermedad específica | 3 (17) | [21,33,38] |
Los estudios incluidos pueden tener más de 1 tipo de indicador clínico.
De los 18 estudios, 3 (17%) estudios presentaron indicadores de resultado: mortalidad [23], quejas de los pacientes [25] y satisfacción del paciente [30].
Presentación del panel
Los tipos de visualización utilizados para presentar los indicadores clínicos subyacentes se resumen en Cuadro 5. Se utilizó una combinación de gráficos de barras, tablas y gráficos de líneas en el 50% (9/18) de los estudios. Gude et al [36] y Weiner et al [22] utilizaron las 3 técnicas.
Cuadro 5
Elementos de visualización del tablero utilizados en los estudios incluidos (N=18).un
Elementos de visualización | Recuento, n (%) | Referencias |
Gráfico de barras que incluye histograma | 10 (56) | [21-23,27,29,32-34,36,37] |
Mesa | 9 (50) | [22-27,31,36,38] |
Gráfico de líneas | 9 (50) | [22,29,31,32,34-38] |
Diagrama de dispersión | 1 (6) | [35] |
Metro | 1 (6) | [22] |
Radar que incluye radial o tela de araña | 1 (6) | [30] |
Gráfico circular que incluye donas o anillos | 1 (6) | [29] |
Los estudios incluidos pueden tener más de 1 elemento de visualización.
Cuadro 6 muestra que la mayoría (12/18, 67%) de los paneles evaluados estaban destinados al uso del equipo, mientras que el 22% (4/18) de los paneles eran para uso individual. De los 18 paneles evaluados, 2 (11%) paneles fueron diseñados tanto para uso individual como para equipo. Los médicos trabajan en equipos de atención especializada, equipos multidisciplinarios y como consultores individuales; por lo tanto, las interfaces de panel deben mostrar los datos relevantes en función de la configuración.
Cuadro 6
Dashboard designed for team or individual use (N=18).
Use | Count, n (%) | References |
Team | 12 (67) | [22–29,32,34,37,38] |
Individual | 4 (22) | [21,30,35,36] |
Both | 2 (11) | [31,33] |
La frecuencia prevista de uso de los cuadros de mando se dividió uniformemente entre el uso rápido y lento, como se muestra en Cuadro 7. Un panel de control de urología fue diseñado específicamente para un uso rápido o de un vistazo [37]. En total, el 17% (3/18) de los tableros fueron diseñados para un uso lento y se revisaron cada mes [25,27,28]. En general, el 22% (4/18) de los estudios incluidos diseñaron cuadros de mando para un uso lento, pero no especificaron la cadencia exacta para revisar los datos [21,33,36,38].
Cuadro 7
Estudios de tablero diseñados para un uso rápido o lento (N=18).
Uso | Recuento, n (%) | Referencias | |
Rápido | |||
Diario | 8 (44) | [22-24,26,29,31,32,34] | |
Rápido o de un vistazo | 1 (6) | [37] | |
Lento | |||
Semanal | 1 (6) | [30] | |
Mensual | 3 (17) | [25,27,28] | |
Trimestral | 1 (6) | [35] | |
Sin detalles | 4 (22) | [21,33,36,38] |
Fuentes de datos
De los 18 estudios incluidos, 5 (28%) estudios se realizaron sobre los sistemas EMR y EHR, 4 (22%) estudios se integraron con un almacén de datos existente dentro de la infraestructura hospitalaria, 2 (11%) estudios se integraron con los sistemas de administración de pacientes dentro del hospital y 1 (6%) estudio utilizó datos de un registro clínico. En total, el 44% (8/18) de los estudios no especificó la fuente de datos utilizada para implementar la solución de panel.
Tecnología
En general, el 22% (4/18) de los estudios de panel aprovecharon las tecnologías de desarrollo web, como HTML, hoja de estilo en cascada y JavaScript. También se utilizaron bibliotecas de código abierto, como jQuery (OpenJS Foundation), D3.js (Mike Bostock) y HighCharts (Highsoft AS). De los 18 estudios, 4 (22%) utilizaron soluciones empresariales listas para usar (SAS, Tableau y Qlikview). En total, el 11% (2/18) de los estudios de panel presentaron datos utilizando Microsoft Excel. En total, el 33% (6/18) de los estudios incluidos no especificaron las herramientas y plataformas tecnológicas utilizadas para implementar la solución de tablero.
Los paneles pueden ser interactivos, lo que permite a los usuarios interactuar con los datos de múltiples maneras en lugar de una sola vista estática. Los paneles interactivos permiten a los usuarios profundizar para obtener información de fondo, mostrar comparaciones y resaltar anomalías en las visualizaciones de datos [40]. Shneiderman et al [41] han descrito características comunes de las interfaces gráficas de usuario avanzadas, incluida una visión general de toda la recopilación de datos, el zoom en elementos interesantes, el filtrado de elementos poco interesantes y la recuperación de detalles adicionales a pedido.
Cuadro 8 muestra que la mayoría (15/18, 83%) de los paneles eran interactivos, el 11% (2/18) de los paneles eran estáticos y el 6% (1/18) de los estudios no proporcionaron detalles sobre si el tablero era interactivo o estático [28].
Cuadro 8
Estudios de tablero diseñados para ser interactivos o estáticos (N=18).
Diseño de interfaz | Contar | Referencias |
Interactivo | 15 (83) | [21-24,26,27,29,31-38] |
Estático | 2 (11) | [25,30] |
No details | 1 (6) | [28] |
RQ3: Design Process
Solo el 56% (10/18) de los estudios proporcionaron detalles sobre el proceso de diseño utilizado. El diseño centrado en el usuario (3/18, 17%), el codiseño (2/18, 11%) y los procesos iterativos (2/18, 11%) fueron los enfoques específicos mencionados en los documentos. Mulhall et al [35] utilizaron enfoques de diseño conjunto y diseño centrado en el usuario. Stattin et al utilizaron un diseño iterativo y centrado en el usuario [37]. Aunque el 44% restante (8/18) de los estudios no tenía detalles de los procesos de diseño, el 55% (10/18) de los estudios informaron que los detalles utilizaron una amplia gama de métodos, incluidos grupos focales, entrevistas, talleres y mapeo de procesos.
RQ4: Evaluation Methods
Los métodos de evaluación, agrupados por tipo, se enumeran en la Tabla 9. Se utilizó una combinación de métodos de investigación cuantitativos y cualitativos. La mayoría de los estudios (10/18, 57%) evaluaron cuantitativamente el impacto de los paneles. Los datos se obtuvieron principalmente de EMR, registros clínicos y sistemas administrativos de pacientes. Los cuestionarios, como las encuestas previas y posteriores, las preguntas estandarizadas de facilidad única (SEQ) y la escala de usabilidad del sistema (SUS) se utilizaron en el 44% (8/18) de los estudios. Los métodos utilizados en los estudios restantes incluyeron el análisis de los registros de acceso (3/18, 17%), los ensayos formales de control aleatorio por grupos (2/18, 11%), los estudios de casos (2/18, 11%), las entrevistas, el protocolo de pensar en voz alta, la evaluación heurística y el seguimiento
Table 9
Evaluation methods used by included studies (N=18).a
Method | Count, n (%) | References | |
Asking the users | |||
Questionnaires or surveys | 9 (50) | [23,24,26,28,31,33,35,36,38] | |
Interviews | 2 (11) | [33,38] | |
Evaluating user behavior | |||
eHealth data analysis | 10 (56) | [21,22,27–31,34,36,37] | |
System usage log analysis | 4 (22) | [21,27,29,35] | |
Evaluating usefulness of the interface | |||
Expert method | 1 (6) | [26] | |
Usability user study | 3 (17) | [24,33,38] |
aIncluded studies may have more than 1 evaluation method.
In terms of the evaluation setting, most of the studies (13/18, 72%) were conducted in authentic settings, such as in the emergency department, primary care clinics, or hospital inpatient wards, whereas the remaining studies (4/18, 22%) were conducted in controlled laboratory settings.
RQ5: Resultados informados
Los resultados informados de cada uno de los estudios de cuadro de mando incluidos se resumen más a fondo (Apéndice multimedia 3 [21-38]). Los métodos se agruparon por (1) retroalimentación directa de los usuarios finales, (2) análisis de datos de los datos subyacentes de eHealth, (3) análisis de datos de registros de uso de la plataforma, (4) evaluación de usabilidad de expertos y (5) pruebas de usabilidad con usuarios finales.
Preguntar a los usuarios: cuestionario, encuesta y entrevista
Los estudios que solicitaron comentarios en el panel directamente de los usuarios finales utilizando cuestionarios, encuestas y entrevistas estándar se resumen en Cuadro 10.
Cuadro 10
Resultados reportados de cuestionarios estandarizados, encuestas y entrevistas (N=18).
Método de evaluación | Resultados informados | Referencias |
Cuestionario estandarizado | SUS medioun puntuación de al menos 73,0 en 5 estudios (rango 73,0-87,5).PSSUQb puntuación de 1,7 (DE 0,5).Todas las tareas clasificadas medianas SEQc puntuación de 1 (muy fácil) o 2 (fácil). | [23,24,26,33,38] |
Encuesta | Los encuestados tuvieron respuestas favorables a los tableros (rango 72-79).Los encuestados declararon que los datos eran procesables (rango 48-69).Los encuestados sintieron que los datos mejoraban su práctica (rango 64-98). | [28,29,31,35] |
Entrevista | Los entrevistados estaban interesados y entusiasmados con el panel de control individual del paciente.Los entrevistados estaban generalmente emocionados de tener la oportunidad de ver el panel de la cohorte, pero comentaron sobre su complejidad.Los entrevistados fueron generalmente positivos sobre el resumen del desempeño clínico, las listas de pacientes, las acciones sugeridas y las vistas detalladas de información a nivel del paciente.Los entrevistados identificaron mejoras en la vista de los resúmenes del rendimiento clínico (por ejemplo, la inclusión de IC con orientación diferente fue confusa). | [33,38] |
unSUS: escala de usabilidad del sistema.
bPSSUQ: Post-Study System Usability Questionnaire.
cSEQ: pregunta de facilidad única.
De los 18 estudios incluidos, 5 (28%) estudios utilizaron un cuestionario estandarizado para medir la evaluación de los individuos sobre la usabilidad del tablero. SUS es un cuestionario validado que mide la satisfacción general de los usuarios con una interfaz gráfica de usuario [42]. El cuestionario es independiente de la interfaz y consta de 10 ítems con puntuaciones totales que van de 0 a 100 [43]. En total, el 17% (3/18) de los estudios incluidos informaron puntuaciones medias altas del SUS de 82,6 (DE 11,5) [23], 83 (DE 7,6) [26] y 87,5 (DE 9,6) [24]. En general, el 6% (1/18) de los estudios informaron una puntuación mediana del SUS de 73,0 (DE 15,0) [38].
Además del cuestionario SUS, Schall et al [24] también realizaron un Cuestionario de Usabilidad del Sistema Post-Estudio (PSSUQ). El PSSUQ consta de 19 elementos que miden la satisfacción percibida de los usuarios con un producto [44]. El cuestionario consta de tres subescalas de la siguiente manera: utilidad del sistema, calidad de la información y calidad de la interfaz. El estudio encontró una puntuación media general de PSSUQ de 1,7 (DE 0,5) con puntuaciones de subescala de 1,5 (DE 0,4), 1,8 (DE 0,8) y 1,8 (DE 0,8), lo que sugiere que el panel tenía una buena usabilidad.
Janssen et al [33] pidieron a 5 participantes que calificaran la facilidad de completar tareas en los tableros de linfedema utilizando un SEQ de 7 puntos [45]. Todas las tareas en el panel individual recibieron una calificación SEQ mediana de 1 (muy fácil) o 2 (fácil). Del mismo modo, todas las tareas en el panel de la cohorte recibieron una calificación SEQ media de 1 o 2. La última tarea en el panel de la cohorte fue intentada por solo 3 participantes y recibió una calificación SEQ mediana de 3.
Las encuestas de retroalimentación de los usuarios se realizaron en el 17% (3/18) de los estudios. Mulhall et al [35] encuestaron a 316 médicos de familia que utilizaron el panel de mejora de la calidad en la práctica de atención a largo plazo. La calidad general del tablero se calificó como buena (45%) y muy buena (34%), y el 69% de los médicos dijeron que era probable o muy probable que implementaran uno de los cambios sugeridos.
Khanna et al [28] encuestaron a 48 prácticas de atención primaria y especializada sobre sus percepciones de un panel de análisis de transformación de la práctica como una herramienta para presentar datos que son procesables en el diseño de atención médica. El estudio encontró que el 96% de las prácticas encuestadas informaron haber revisado previamente sus datos de costos, el 72% tuvo respuestas favorables al tablero y el 48% encontró que los datos del tablero eran procesables (n = 25).
Ehrenfeld et al [31] evaluaron las percepciones de los residentes de anestesia en un panel de retroalimentación de rendimiento. El estudio encontró que el 91% de los encuestados dijeron que les gustaría recibir una revisión sistemática de los datos de rendimiento de la práctica cada 1 a 4 semanas (n = 48), mientras que el 98% de los encuestados residentes dijeron que podrían mejorar en al menos una y, a menudo, múltiples áreas. Solo el 10% de los encuestados creía que cumplían con las 6 áreas enumeradas. Todos los encuestados, excepto 1, señalaron que les gustaría recibir comentarios de alguna forma electrónica, por ejemplo, correos electrónicos, sitios web y teléfonos inteligentes.
Evaluación del comportamiento del usuario a través del análisis de datos de eHealth
Cuadro 11 resume los resultados clave relacionados con los cambios en los indicadores clínicos subyacentes y los registros de uso del panel.
Cuadro 11
Resultados informados del análisis de datos de eHealth y registros de uso del sistema.
Hester et al [27] observaron mejoras en las medidas de equilibrio del departamento de emergencias, que incluyeron una mayor tasa de alta en el departamento de emergencias (70.7% vs 72.8%; P=.05), cargas más bajas (relación 1:0.86; P<.001), menor duración de la estancia (2,9 horas frente a 2,6 horas; P = .001), y tasas de revisita más bajas a 7 días (15.4% vs 11.6%; P<.001). Los cargos de hospitalización disminuyeron (proporción 1:1.14; P=.01), pero la duración de la estancia y la readmisión se mantuvieron estables.
Patel et al [29] observaron que el índice de mezcla de descarga compuesta mejoró durante el período de estudio de 5 meses; observaron una tasa de finalización del 79,3% en el grupo de intervención (n = 537) en comparación con el 63,2% en el grupo de control (n = 516).
En el 53,8% de los casos (n=288), Gude et al [36] observaron que los especialistas en cuidados intensivos sobreestimaron su rendimiento clínico, mientras que en el 13,5% de los casos, subestimaron su rendimiento. Los participantes sobreestimaron el desempeño de sus pares y establecieron objetivos un 20,3% más altos que el punto de referencia de rendimiento superior. En el 68,4% de los casos, las intenciones de mejorar la práctica fueron consistentes con las brechas reales en el desempeño (sin retroalimentación); aumentó al 79,9% después de recibir comentarios. En el 56,3% de los casos, los participantes aún querían mejorar los aspectos en los que ya tenían un mejor desempeño, y en el 8,3% de los casos, carecían de intenciones de mejora, ya que no consideraban importantes los indicadores.
Stattin et al [37] evaluaron un panel de retroalimentación de rendimiento SMART (específico, medible, aceptado, realista, oportuno) basado en datos de un registro nacional de cáncer. La proporción de pacientes reportados oportunamente al registro aumentó de 26% en 2011 a 40% en 2013 (P<.001). El uso de la vigilancia activa para hombres con cáncer de próstata de muy bajo riesgo aumentó del 63% al 86% (P<.001). El tiempo de espera se mantuvo largo. En 2013, la mediana total de tiempo desde la recepción de la derivación hasta la primera visita a una clínica especializada fue de 35 días (IQR 21-58). Desde la biopsia de próstata hasta la fecha en que el paciente recibió información sobre su diagnóstico de cáncer fue de 29 días (IQR 21-40).
Weiner et al [22] evaluated a dashboard for leadership to monitor emergency physicians’ and radiologist’s performance against established targets. They found that acute patients’ (who may require admission) monthly length of stay dropped by 54 minutes. Similarly, the monthly length of stay of lower acuity patients (outpatients) dropped by nearly an hour. Finally, the number of patients in the emergency department who left without being seen fell from 165 per month to 10 per month.
Clark et al [34] observed improvements in process indicators during a 3-month intervention of a clinical dashboard that supported decision-making. The indicator performance improved by an average of 21.2% across the 5 indicators (range 8-38). In particular, discharge plans communicated to patients 24 hours before discharge increased from 48% to 86%. In addition, pharmacy scripts written 24 hours before patient discharge increased from 62% to 84%.
Linder et al [21] investigated whether an acute respiratory infection dashboard changed prescription rates. The study found no difference between intervention and control practices in antibiotic prescriptions for all acute respiratory infection visits.
Evaluating User Behavior Through System Access Log Analysis
Mulhall et al [35] evaluaron un tablero para apoyar a los médicos de atención primaria en la mejora de la calidad. El estudio encontró que el 50% de los médicos generales vieron el informe basado en la web (n = 400), y el 90% se inscribió para la entrega de correo electrónico. Los participantes que vieron al menos uno de sus informes tuvieron una reducción de casi el 2% en las tasas de prescripción de antipsicóticos.
Patel et al [29] realizaron un ensayo controlado aleatorio por grupos para evaluar un tablero para apoyar el A&F basado en equipos. Durante el período de intervención de 5 meses, 40 usuarios accedieron al panel 104 veces en febrero, 77 veces 33 usuarios en marzo y 55 veces 30 usuarios en abril. Durante el período de lavado, 20 usuarios accedieron al panel de control 48 veces en mayo y 48 veces 24 usuarios en junio. Después de un período de intervención de 9 meses, los registros de uso mostraron que el 28% de los médicos utilizaron el tablero al menos una vez (n = 72); estos médicos tuvieron tasas generales de prescripción de infecciones respiratorias agudas más bajas (42%) en comparación con el grupo de control (50%; P=.02) [21].
Expert Usability Method
Solo el 6% (1/18) de los estudios realizaron una evaluación heurística de la interfaz del tablero [26]. En total, 2 profesionales del factor humano y 3 miembros del grupo focal evaluaron el tablero basado en la heurística nielsen 10 [46]. En el examen de expertos se identificaron 20 sugerencias para los cambios. En general, el 40% o más de los evaluadores recomendaron 5 cambios. La sugerencia principal (con el 60% de los evaluadores de acuerdo) fue incluir una hoja de portada que documentara el objetivo del programa y los criterios del indicador de calidad (claridad) y eliminar el indicador de calidad del catéter (repetitivo).
Métodos de usabilidad del estudio
del usuario Los resultados clave de los estudios que involucraron las pruebas de usabilidad del usuario final de las interfaces fueron generalmente positivos. Estos estudios requirieron que los participantes completaran tareas predefinidas en la interfaz para identificar errores y medir el tiempo hasta su finalización.
Janssen et al [33] encontraron que 5 participantes completaron todas las tareas del protocolo de pensamiento en voz alta en el panel de control del paciente individual (n = 5). En el tablero de cohortes, solo 1 de los 5 participantes pudo completar la primera tarea para identificar la proporción de pacientes con linfedema que tenían >10 ganglios resecados. La última tarea en el tablero de cohortes, que requirió que los participantes identificaran la proporción de pacientes dentro de la organización que tenían tratamiento en curso para el linfedema y un IMC en el rango de sobrepeso, solo fue intentada por 3 participantes.
Brown et al [38] evaluaron un panel de control de e-A&F para comprender el diseño de interfaz óptimo para el proceso clínico de A&F. En total, 7 participantes identificaron una mediana de 10 errores (rango 8-21). Se completó una mediana de 5 tareas de las 7 tareas de evaluación (rango 4-7); El 16% (6/38) de las posibles categorías heurísticas fueron violadas, siendo la más frecuentemente violada la integración del flujo de trabajo (n = 40).
Schall et al [24] observaron que el tiempo en la tarea mejoró en 6 de las 8 tareas de evaluación entre los cuadros de mando convencional y HIT (n = 6). En términos de precisión, las tareas completadas sin errores mejoraron en 5 de las 8 tareas. La finalización de tareas sin errores se mantuvo igual entre los paneles convencionales y HIT en las primeras 2 tareas de evaluación. Las tareas completadas sin errores disminuyeron en 1 tarea de evaluación (úlceras por presión).
RQ6: Consideraciones de diseño futuro
Hubo 4 temas clave que se identificaron en los estudios incluidos relacionados con futuras consideraciones de diseño del tablero.
Compromiso con el personal clínico
Una consideración clave del diseño fue la participación de los usuarios finales durante todo el proceso de desarrollo. Por ejemplo, Laurent et al [23] siguieron un proceso centrado en el usuario al desarrollar una herramienta para garantizar la usabilidad y aseguraron que la información mostrada no condujera a malentendidos o errores de interpretación.
Schall et al [24] sugirieron promover paneles a través de demostraciones en reuniones con individuos o equipos como una estrategia para involucrar al personal clínico. Para integrar completamente el uso del tablero en la práctica, el estudio sugirió actualizar los recordatorios de práctica, proporcionar retroalimentación procesable de los datos de mejora de la calidad e informar a los líderes superiores. Además, los campeones locales o los agentes de cambio en cada unidad fueron responsables de usar el tablero durante las reuniones diarias interprofesionales.
Indicadores clínicos
La selección de indicadores clínicos fue un tema común discutido en los estudios incluidos. Stattin et al [37] señalaron que la selección de indicadores de calidad debe basarse en directrices recientemente publicadas que han sido ampliamente aceptadas. Patel et al [29] destacaron que para ser efectivos en la mejora de la atención, el uso de indicadores de proceso que la evidencia que intenta medir un resultado se evalúa continuamente, y los proveedores tienen la oportunidad de proporcionar retroalimentación sobre cuán significativas encuentran las medidas. El principio de equidad también debe tenerse en cuenta al seleccionar los indicadores clínicos; específicamente, los estándares de desempeño deben evaluarse y establecerse con respecto a la atención de calidad, por ejemplo, los estándares mínimos para la competencia en los programas de residencia [31].
Al presentar indicadores clínicos a los médicos, Brown et al [38] sugirieron que los indicadores deberían enmarcarse positivamente cuando sea apropiado para enfatizar el logro. Además, los indicadores clínicos deben priorizarse automáticamente.
Linder et al [21] destacaron que informar indicadores clínicos, por sí solos, es con frecuencia insuficiente para mejorar la calidad de la atención. Linder et al [21] sugirieron que el informe de calidad probablemente deba combinarse con otras intervenciones, como los detalles clínicos, el apoyo a las decisiones clínicas, la educación del paciente o los incentivos financieros. Clark et al [34] también sugirieron cointervenciones, como un tablero, incluidas herramientas de apoyo a la toma de decisiones.
Herzke et al [30] destacaron los beneficios de atribuir datos de rendimiento a médicos individuales en lugar de admitir médicos. Sin embargo, los autores advirtieron que los requisitos computacionales de su metodología no eran triviales y requerían vincular los datos de facturación con datos administrativos a nivel de paciente, lo que puede ser difícil de operacionalizar.
Gude et al [36] propusieron que se podrían requerir medidas más intensivas, como la retroalimentación verbal y las discusiones de retroalimentación en equipos en lugar de entre individuos, para garantizar que los médicos reconozcan la importancia de los indicadores y confíen en los datos.
Support to Interpret Performance Data
Los estudios identificaron que los médicos tenían dificultades para interpretar los datos de los indicadores clínicos para dar sentido a su desempeño individual y de equipo. Para apoyar a los médicos en la interpretación de sus datos, Schall et al [26] sugirieron que si las puntuaciones de los indicadores de calidad no tienen significado, la puntuación no debe incluirse. Si se incluye, sería útil contar con definiciones más precisas del color del símbolo y los indicadores de calidad. Del mismo modo, también se propuso una hoja de presentación que documenta el objetivo del programa y los criterios del indicador de calidad.
Para evitar que los puntos de referencia se perciban como irrealmente altos, Gude et al [36] recomendaron ofrecer múltiples comparadores de rendimiento, como la mediana, el rendimiento superior del 10% de los pares y el propio rendimiento pasado. Herzke et al también sugirieron la clasificación del desempeño individual del proveedor en relación con sus pares [30].
Brown et al [38] propusieron comparar las puntuaciones de los usuarios con las etiquetas de rendimiento deseables, como el uso de un sistema de semáforo para reducir la ambigüedad. Si el panel presenta acciones sugeridas, debe proporcionar un análisis y visualización de datos adicionales relacionados con las acciones de mejora recomendadas y explicar claramente a qué se refieren específicamente los datos de rendimiento.
Para abordar los problemas conocidos en torno a la atribución de datos de rendimiento entre la admisión y la consulta de los médicos durante el episodio de atención, Herzke et al [30] encontraron que garantizar que los datos puedan atribuirse de manera creíble al proveedor individual era integral en el diseño del tablero.
Los paneles deben tener la capacidad de proporcionar detalles sobre la demanda relacionados con por qué se sugirieron acciones de mejora particulares, cómo se han implementado en otras organizaciones e información orientada al paciente [38]. Para el uso intermitente del tablero, Janssen et al [33] sugirieron que puede ser útil agregar andamios para apoyar la exploración de aspectos clave del desempeño de la práctica y un mecanismo de historial para permitir a los médicos y administradores rastrear el progreso y los cambios.
equinología
En los estudios incluidos también se destacaron consideraciones tecnológicas más amplias. Stattin et al [37] describieron un escenario en el que los médicos no pueden iniciar sesión en la plataforma del tablero. Los correos electrónicos deben distribuir informes trimestrales a los jefes de departamento para apoyar la adopción de nuevas tecnologías por parte de los médicos.
Al analizar el futuro de los paneles basados en datos de indicadores clínicos reutilizados, Clark et al [34] describieron la necesidad de que los paneles continúen centrándose en las métricas de calidad e incluyan herramientas de apoyo a la toma de decisiones. Además, Clark et al [34] predicen que las iniciativas que se centran en mejorar la experiencia del paciente, como la satisfacción informada por el paciente, aparecerán en futuros paneles que incorporen modelos predictivos dentro de los paneles para proporcionar un conjunto más amplio de información para los médicos.
Desarrollo Profesional Continuo
Las actividades completadas por los médicos que implican la revisión de su desempeño y la medición de los resultados de salud del paciente se consideran actividades de CPD en marcos de desempeño profesional especializado.
Para los paneles que incluyen acciones de mejora sugeridas, Brown et [38] sugirieron permitir que los médicos agreguen sus propias acciones, que deben guardarse automáticamente. También se debe permitir que los médicos guarden fácilmente, marquen las acciones como implementadas y vean las de otros usuarios dentro de su organización.
Mulhall et al [35] identificaron los beneficios adicionales de un tablero de e-A&F. Estos informes se pueden utilizar como parte de un estudio autorreflexivo hacia los créditos de educación médica continua requeridos en Ontario [35].
Discusión
Principales conclusiones
Visión general
Los resultados de esta revisión de alcance resumieron y mapearon la literatura existente sobre los paneles de retroalimentación de rendimiento emergentes basados en datos de indicadores clínicos recopilados rutinariamente. La revisión del alcance se suma a la literatura de varias maneras. En primer lugar, la revisión proporciona una visión general de los diferentes contextos en los que se utilizan estas interfaces. En segundo lugar, la revisión identificó características visuales y funcionales comunes. En tercer lugar, esta revisión resume los procesos de diseño y los métodos de evaluación. Finalmente, la revisión informa los resultados clave de los estudios incluidos y las consideraciones de diseño futuras propuestas por los autores.
En la siguiente sección se analizan las implicaciones de la revisión con respecto a los RQ iniciales.
RQ1: Propósito
El propósito de los paneles incluyó la mejora del rendimiento, la calidad y la seguridad, y la gestión de las operaciones
Las interfaces de mejora del rendimiento o la calidad se centran en presentar datos de indicadores clínicos relevantes para permitir a los médicos reflexionar sobre su desempeño individual y de equipo.
Existe la posibilidad de mejorar el apoyo a la interpretación
Los paneles pueden tener preguntas de andamiaje para apoyar los procesos metacognitivos de un médico y sugerir acciones de mejora para implementar. Sin embargo, solo 2 estudios [35,38] han utilizado estas técnicas para ayudar a los usuarios finales a interpretar sus datos de rendimiento. La orientación para que los médicos tengan sentido a sus datos de rendimiento fue un tema común identificado en los estudios incluidos.
RQ2 y RQ3: Características comunes y procesos de diseño
Los indicadores genéricos dominaron los estudios
La mayoría de los indicadores clínicos subyacentes utilizados para rellenar los cuadros de mando se clasificaron según Mainz et al [8] como indicadores de proceso y genéricos. La duración de la estancia, los reingresos de 28 días y los altas tardías miden las actividades en los episodios de atención. Los indicadores genéricos no solo son relevantes para especialidades o subespecialidades específicas. Los indicadores de proceso genéricos parecen ser indicadores adecuados, ya que la mayoría de los paneles fueron diseñados para el uso del equipo en un grupo de artesanía especializada o un equipo multidisciplinario.
La mayoría de los paneles se diseñaron para uso grupal
Como herzke et al [30] informaron, es difícil atribuir el desempeño de los médicos individuales cuando múltiples consultores pueden interactuar con un paciente durante un solo episodio de atención. Por lo tanto, es importante que todo el equipo responsable de los resultados vea los indicadores de rendimiento y trabaje en conjunto para revisar esa información.
Los estudios tuvieron un número similar de paneles rápidos y lentos
Los paneles se dividieron uniformemente para uso rápido (<1 día) y lento (semanal, mensual o trimestral). Los paneles diseñados para salas de emergencia, cuidados intensivos y maternidad tienden a ser de uso rápido, donde los datos deben optimizarse para un monitoreo constante y ser legibles de un vistazo. Los paneles lentos enfatizaron los cambios en los indicadores clínicos a lo largo del tiempo, las comparaciones con sus pares y las características de reflexión y establecimiento de objetivos.
Los médicos participaron durante el proceso de diseño, pero los detalles a menudo no estaban claros para la reproducibilidad
Aunque algunos de los estudios de esta revisión utilizaron enfoques centrados en el usuario y de diseño conjunto, la mayoría de los estudios no proporcionaron detalles sobre cómo se diseñaron sus interfaces. Sin una descripción del enfoque de diseño y los métodos utilizados, es difícil que los estudios se repliquen en estudios futuros. Al realizar investigaciones de usuarios e involucrar a los médicos en el proceso de diseño, los proyectos HIT cambian el papel de los diseñadores de ser expertos a facilitadores del proceso de diseño [47]. Los usuarios finales, como médicos, administradores médicos, enfermeras y profesionales de la salud aliados, están facultados para participar en el proceso de diseño. En última instancia, los investigadores obtienen una comprensión más profunda del contexto de los usuarios finales y crean soluciones que abordan problemas del mundo real. El aumento de la participación del personal fue evidente en el estudio de Mulhall et al [35], donde los autores utilizaron métodos de codiseño para desarrollar un panel para mejorar las tasas de prescripción. Observaron una reducción del 2% en las prescripciones de antipsicóticos, y la mayoría de los participantes (n = 316) declararon que les gustaba el tablero y que era probable que implementaran los cambios de práctica sugeridos.
RQ4 y RQ5: Métodos de evaluación y resultados informados
Los paneles de control se evaluaron en un entorno de laboratorio controlado o en un entorno auténtico en la naturaleza
Los estudios de laboratorio, como las pruebas de usabilidad, permiten a los investigadores identificar si los usuarios pueden completar las tareas previstas en la interfaz con errores mínimos. El uso de cuestionarios de usabilidad estandarizados permite a los investigadores comparar los puntajes de utilidad y satisfacción entre estudios similares. Por otro lado, los estudios en la naturaleza permiten a los investigadores identificar problemas de adopción e implementación a medida que la intervención se implementa en entornos auténticos, como salas de emergencia y clínicas de atención primaria. Los investigadores pueden identificar cambios en el rendimiento real mediante el análisis de datos de eHealth en EHR y sistemas de administración de pacientes. El análisis de los datos del registro de acceso al sistema proporciona otra perspectiva sobre el comportamiento del usuario, lo que permite a los investigadores comparar cómo los participantes pensaban que usaban el sistema con sus patrones de uso reales.
Respuestas abrumadoramente positivas de los participantes sobre la utilidad y facilidad de uso del tablero
Los cuestionarios, encuestas y entrevistas estandarizados revelaron que la mayoría de los participantes encontraron que los paneles eran útiles y fáciles de usar. Aunque los 5 estudios informaron puntuaciones altas de usabilidad [23,24,26,33,38], ninguno de los estudios investigó los cambios en los indicadores clínicos subyacentes antes y después de que los médicos usaran el panel en la práctica. Los futuros estudios de tablero deben considerar la realización de una combinación de pruebas controladas de usuario de laboratorio y estudios en la naturaleza para comprender la reacción inicial de los usuarios a una interfaz y su impacto en la práctica.
La mayoría mostró resultados prometedores, incluso para el pequeño conjunto de estudios en la naturaleza que evaluaron las mejoras en los indicadores clínicos solo el 22% (2/9) de los estudios no informaron cambios significativos en los indicadores clínicos después del período de intervención, mientras que el 78% (7/9) informó mejoras. En total, el 22% (2/9) de los estudios [21,29] revelaron que <50% de los participantes en su estudio accedieron al panel durante el período de evaluación, lo que sugiere problemas con la implementación y la adopción. Aunque los estudios evaluaron los paneles en un laboratorio controlado o en un entorno auténtico en la naturaleza, ningún estudio evaluó el tablero en ambos entornos. Los estudios que evalúan el impacto de los paneles en el rendimiento clínico se pueden mejorar mediante la incorporación de datos recopilados de entornos controlados y auténticos. Los estudios de laboratorio proporcionan información sobre la usabilidad (precisión, eficiencia y satisfacción) de las interfaces para que los usuarios objetivo logren objetivos específicos. Los estudios auténticos en la naturaleza proporcionan información sobre si la interfaz admite cambios en la práctica individual, los procesos internos y los resultados de salud del paciente. Juntos, estos entornos proporcionan datos enriquecidos sobre la utilidad y la eficacia de la interfaz.
RQ6: Consideraciones de diseño futuro
Involucrar a los médicos durante el proceso de diseño es integral en la implementación exitosa de los paneles
Los temas clave identificados relacionados con los futuros paneles se centran en la importancia de involucrarse con el personal en el proceso de diseño, seleccionar y presentar indicadores clínicos apropiados y apoyar a los médicos en la interpretación de los datos de rendimiento. El personal clínico debe participar en el proceso de diseño de cuadros de mando para apoyar la reflexión sobre la práctica. El diseño debe considerar las diferencias en la forma en que trabajan los equipos de atención, como las pantallas individuales y de equipo, la frecuencia de uso (de un vistazo frente al uso a largo plazo) y los indicadores clínicos específicos de la especialidad. Los indicadores seleccionados deben ser relevantes para el trabajo del médico y presentados para maximizar la comprensión. Alinear el diseño de las interfaces del panel de control con los marcos de mejora del rendimiento clínico existentes, como Plan-Do-Study-Act [39], podría ayudar mejor a los médicos a interpretar sus datos de rendimiento individual y de equipo. Algunas técnicas que podrían apoyar este proceso de creación de sentido y reflexión incluyen preguntas de andamiaje y características de anotación con notas privadas [33].
Reflexión de andamiaje para apoyar el aprendizaje profesional a largo plazo
Los artículos evaluaron en gran medida la usabilidad y la utilidad de las interfaces de retroalimentación de rendimiento. El conjunto actual de artículos en esta revisión sugiere que los paneles fueron relevantes para su práctica y que los médicos tenían una sólida comprensión de los datos de indicadores clínicos presentados, ambos pasos importantes en el proceso de reflexión. Las interfaces recibieron resultados positivos relacionados con el autocontrol de los datos de rendimiento. Sin embargo, las interfaces carecían de características diseñadas para soportar procesos metacognitivos, como la autorreflexión, la planificación y el establecimiento de objetivos [48]. Un estudio incorporó características para sugerir acciones de mejora basadas en pautas y la capacidad de guardar acciones de mejora personal [38]. Existe la oportunidad de comprender mejor cómo los médicos y los equipos dan sentido a sus datos de rendimiento, particularmente cómo los médicos concluyen que la práctica actual es apropiada, cuándo iniciar un cambio en el comportamiento o concluir que las iniciativas de cambio de práctica anteriores han sido efectivas. Los médicos pueden emprender acciones de mejora, como la realización de un proyecto de A & F, tutoría entre pares o mejora de habilidades a través de la finalización de las actividades de CPD.