NHS England está trabajando con el Instituto Ada Lovelace para realizar evaluaciones piloto de impacto algorítmico (AIA) en el cuidado de la salud. El Instituto Ada Lovelace define AIA como una herramienta para evaluar los posibles impactos sociales de un sistema algorítmico antes de que el sistema esté en uso.
NHS England dijo que el piloto, dirigido por el laboratorio NHS AI, se utilizará como parte del proceso de acceso a datos para la Base de datos nacional de imágenes de tórax Covid-19 (NCCID) y la Plataforma nacional de imágenes médicas (NMIP) propuesta.
Si bien la inteligencia artificial (IA) tiene el potencial de ayudar a los trabajadores de la salud y la atención a brindar una mejor atención a las personas, también podría exacerbar las desigualdades de salud existentes si no se tienen en cuenta preocupaciones como el sesgo algorítmico. En lo que se cree que es una primicia mundial en la adopción de IA en el cuidado de la salud, el objetivo del ensayo es garantizar que los riesgos potenciales, como los sesgos del algoritmo, se aborden antes de que puedan acceder a los datos del NHS.
A través de la prueba, NHS AI Lab dijo que ayudará a los investigadores y desarrolladores a involucrar a los pacientes y profesionales de la salud en una etapa temprana del desarrollo de IA cuando haya una mayor flexibilidad para hacer ajustes y responder a las inquietudes.
Brhmie Balaram, jefe de investigación y ética de IA en el Laboratorio de IA del NHS, espera que apoyar la participación de los pacientes y el público como parte del proceso de desarrollo conduzca a mejoras en la experiencia del paciente y la integración clínica de la IA.
“Generar confianza en el uso de tecnologías de IA para la detección y el diagnóstico es fundamental si el NHS quiere darse cuenta de los beneficios de la IA”, dijo Balaram. “A través de este piloto, esperamos demostrar el valor de apoyar a los desarrolladores para que interactúen significativamente con los pacientes y los profesionales de la salud mucho antes en el proceso de llevar un sistema de IA al mercado”.
NHS AI Lab encargó al Instituto Ada Lovelace que proporcionara una guía sobre cómo usar un AIA en el mundo real. Está diseñado para ayudar a los desarrolladores e investigadores a considerar y dar cuenta de los impactos potenciales de las tecnologías propuestas en las personas, la sociedad y el medio ambiente.
La versión de muestra de la guía del proceso, disponible para descargar desde su sitio web, proporciona una guía paso a paso para los equipos de proyecto que buscan acceso a los datos de imágenes del NMIP. Describe cómo realizar una evaluación de impacto algorítmica (AIA) para su proyecto.
La guía está dirigida a diseñadores, desarrolladores, científicos de datos y gerentes de productos o investigación que trabajan en productos y modelos de datos que necesitan usar datos de imágenes NMIP. Abarca la rendición de cuentas, la transparencia, el mantenimiento de registros y el diálogo crítico sobre cómo el diseño y el desarrollo del sistema pueden resultar en daños y beneficios particulares.
Octavia Reeve, líder interina del Instituto Ada Lovelace, dijo: “Las evaluaciones de impacto algorítmicas tienen el potencial de crear una mayor responsabilidad por el diseño y la implementación de sistemas de IA en el cuidado de la salud, lo que a su vez puede generar confianza pública en el uso de estos sistemas, mitigar riesgos de daño a personas y grupos, y maximizar su potencial de beneficio. Esperamos que esta investigación genere más consideraciones para el uso de AIA en otros contextos del sector público y privado”.
El ministro de Innovación, Syed Kamall, dijo: “Si bien la IA tiene un gran potencial para transformar los servicios de salud y atención, debemos abordar los sesgos que tienen el potencial de causar más daño a algunas poblaciones como parte de nuestra misión de erradicar las disparidades en la salud.
“Este piloto demuestra una vez más que el Reino Unido está a la vanguardia en la adopción de nuevas tecnologías de una manera ética y centrada en el paciente”.