El Departamento de Ciencia, Innovación y Tecnología (DSIT) más alto funcionario civil ha dicho que el gobierno debe ir más allá para mejorar la transparencia en torno al despliegue de los sistemas de inteligencia artificial (IA) en todo el sector público.
Preguntados por los miembros del Comité de Cuentas Públicas (PAC) el 30 de enero de 2025 cómo el gobierno puede mejorar la confianza en el uso creciente del sector público de IA y herramientas de toma de decisiones algorítmicas, la secretaria permanente de DSIT, Sarah Munby, dijo que “hay más que hacer sobre la transparencia”, lo que puede ayudar a aumentar la confianza en cómo se utilizan las herramientas automatizadas.
Munby dijo que el sector público debe estar claro dónde, por ejemplo, la IA se ha utilizado en cartas o correos electrónicos del gobierno a los ciudadanos (algo que dijo que se refleja en la orientación del gobierno), y se centra en cómo se comunica a las personas de todas las personas. El país sobre temas relacionados con la IA.
Agregó que si el gobierno no puede ser “demostrablemente confiable”, en última instancia se convertirá en un “bloqueador de progreso” para el despliegue de herramientas de IA.
Un aspecto importante de los esfuerzos del gobierno aquí es el estándar de registro de transparencia algorítmica (ATR), que fue diseñado en colaboración entre DSIT y la Oficina Central de Datos y Data (CCDO), y se implementó en septiembre de 2022 para mejorar la transparencia del sector público y proporcionar más Información alrededor de las herramientas algorítmicas que están utilizando.
Si bien DSIT anunció en febrero de 2024 que tenía la intención de hacer de los ATR un requisito obligatorio para todos los departamentos gubernamentales durante 2024 (además de expandir su uso al sector público más amplio con el tiempo), el estándar ha sido criticado por la falta de compromiso con él. Hasta ahora, a pesar de que el gobierno tiene cientos de contratos relacionados con la IA.
En marzo de 2024, la Oficina Nacional de Auditoría (NAO) destacó cómo solo ocho de 32 organizaciones que respondieron a su encuesta de implementación de IA dijeron que “siempre o generalmente cumplían con el estándar”. En ese momento, solo siete registros estaban contenidos en el ATR.
Tal como está, actualmente hay 33 registros contenidos en el ATRS, 10 de los cuales fueron publicados voluntariamente el 28 de enero por las autoridades locales no cubiertas por el mandato del Departamento Central.
Al comentar sobre los ATR, Munby admitió “Necesitamos sacar más”, señalando que se publicarán otros “20 más o menos” en febrero, con “mucho más” a lo largo de todo el año.
“Es absolutamente nuestra opinión que todos deberían estar fuera y publicados”, dijo. “Se necesita un poco de tiempo para levantarlos y hacerlos funcionar. No ha sido obligatorio durante tanto tiempo, pero … recientemente ha habido una aceleración significativa en Pace, y esperamos que continúe “.
Munby también destacó que “obtener la ley correcta es un componente importante” de la creación de confianza. “Hay un conjunto bastante extenso de disposiciones en los datos [Use and Access] Proyecto de ley que se trata de asegurarse de que donde se realiza la toma de decisiones automatizadas, existen realmente buenas formas de regreso, incluida la capacidad de desafiar [decisions]”, Dijo ella.
Mientras que el gobierno laborista adoptó casi todas las recomendaciones del plan de acción de IA de IA recientemente publicado, que propuso aumentar la confianza y la adopción en la tecnología a través de la construcción del ecosistema de aseguramiento de IA del Reino Unido, ninguna de las recomendaciones mencionó los requisitos de transparencia.
‘Transparencia socialmente significativa’
En evidencia escrita al PAC publicada el 30 de enero, un grupo de académicos, incluido Jo Bates, profesora de datos y sociedad en la Universidad de Sheffield, y Helen Kennedy, profesora de la Sociedad Digital de la Universidad de Sheffield, dijo que era clave tener “transparencia socialmente significativa” en torno al uso de IA y algoritmos del sector público.
“La transparencia socialmente significativa se centra en mejorar la comprensión pública de los sistemas de IA para el uso informado y la participación democrática en las sociedades con datos”, dijeron. “Esto es importante dados los riesgos ampliamente evidenciados de AI, por ejemplo. Sesgo algorítmico y discriminación, que los públicos son cada vez más conscientes. La transparencia socialmente significativa prioriza las necesidades e intereses de los miembros del público sobre las de los desarrolladores de sistemas de IA “.
Agregaron que el gobierno debería trabajar para “reducir las asimetrías de información” en torno a la IA a través del registro obligatorio de sistemas, así como “fomentando la discusión y la toma de decisiones entre terceros gubernamentales y no comerciales, incluidos los miembros del público” sobre lo que AI -La información relacionada se publica públicamente.
Una evidencia escrita adicional de Michael Wooldridge, profesor de informática en la Universidad de Oxford, también destacó la necesidad de aumentar la confianza pública en la IA del gobierno, donde la transparencia puede desempeñar un papel esencial.
“Algunas personas están entusiasmadas con la IA; Pero muchos más están preocupados por eso ”, dijo. “Están preocupados por sus trabajos, por su privacidad, e incluso pueden estar preocupados (erróneamente) por la amenaza existencial.
“Por bien motivado que sea el uso de la IA en el gobierno, creo que es probable que el uso del gobierno de la IA sea cumplido por el escepticismo (en el mejor de los casos), y la hostilidad y la ira en el peor de los casos”, dijo Wooldridge. “Estos miedos, sin embargo fuera de lugar, deben tomarse en serio, y la transparencia es absolutamente esencial para generar confianza”.