A lo largo de 2024, la retórica del gobierno y las fuerzas del orden del Reino Unido en torno a la tecnología se centró en gran medida en el papel de la automatización para reducir los costos y al mismo tiempo aumentar la eficiencia y la productividad. Desde el ascenso del nuevo gobierno laborista en julio, también ha habido un renovado enfoque en la ley y el orden dado su compromiso manifiesto de “recuperar nuestras calles”.
Esto se ha traducido en la ampliación del papel de diversas tecnologías en el ámbito policial, en particular el reconocimiento facial y las herramientas de inteligencia artificial (IA) basadas en la nube. Sin embargo, muchas de estas implementaciones –como en años anteriores– están plagadas de problemas de protección de datos y preocupaciones éticas.
Semanario de informática La cobertura también consideró cómo las nuevas reformas de datos del gobierno podrían reducir aún más la transparencia y la supervisión en torno a la tecnología policial, y cuestionó la suposición de que las personas en el Reino Unido son vigiladas por consentimiento, dado el poco poder que tienen sobre las tecnologías que se implementan con dinero de los contribuyentes en los espacios públicos. .
En marzo, el entonces canciller Jeremy Hunt comprometió 230 millones de libras esterlinas para las fuerzas policiales para pilotear o implementar una serie de tecnologías que aumenten la productividad, incluido el reconocimiento facial en vivo (LFR), la automatización y la inteligencia artificial y el uso de drones como posibles primeros intervinientes.
Las sesiones informativas previas a los periodistas sobre los planes tecnológicos del gobierno revelaron que las tecnologías de redacción automatizada serían una prioridad, de modo que la información personal pueda eliminarse de los documentos o las caras irrelevantes puedan borrarse de las secuencias de vídeo que se llevan en el cuerpo.
Hunt también se comprometió a aportar 75 millones de libras adicionales para el despliegue de Unidades de Reducción de la Violencia y tácticas policiales en puntos críticos, las últimas de las cuales giran en gran medida en torno al uso de datos para dirigir los recursos y actividades policiales a áreas donde el crimen está más concentrado.
Sin embargo, las preocupaciones persistentes sobre la legalidad de cómo la policía del Reino Unido está implementando infraestructura en la nube y reconocimiento facial basado en inteligencia artificial podrían socavar la efectividad de la inversión. En el caso del reconocimiento facial, ha habido repetidos llamamientos para una nueva legislación centrada en la biometría por parte de una amplia gama de actores debido a la falta de reglas claras que controlen su uso.
Dado el enfoque en las migraciones a la nube, así como la potencia informática y el almacenamiento necesarios para utilizar eficazmente la IA, los expertos en protección de datos dijeron a Computer Weekly que muchas de las nuevas herramientas de IA que se están implementando se alojarán en esta infraestructura de nube con sede en EE. UU., lo que las abrirá. también a posibles desafíos de cumplimiento legal.
En junio, Computer Weekly informó sobre documentos que mostraban que Microsoft admitió ante los organismos policiales escoceses que no puede garantizar la soberanía de los datos policiales del Reino Unido alojados en su infraestructura de nube pública a hiperescala.
Publicados bajo las reglas de libertad de información (FoI), los documentos estaban relacionados con el despliegue de la Capacidad de intercambio de evidencia digital (DESC) de la Policía de Escocia, que Computer Weekly informó por primera vez que se implementó con importantes problemas de protección de datos en abril de 2023.
La divulgación reveló que los datos alojados en la infraestructura de nube pública de hiperescala de Microsoft se transfieren y procesan regularmente en el extranjero; que el acuerdo de procesamiento de datos vigente para el DESC no cubría los requisitos de protección de datos específicos del Reino Unido; y que si bien la empresa puede tener la capacidad de realizar cambios técnicos para garantizar el cumplimiento de la protección de datos, sólo está realizando estos cambios para los socios de DESC y no para otros organismos policiales porque “nadie más lo había pedido”.
La correspondencia también contiene reconocimientos de Microsoft de que las transferencias internacionales de datos son inherentes a su arquitectura de nube pública. Como resultado, los problemas identificados con la Policía Escocesa se aplicarán por igual a todos los usuarios del gobierno del Reino Unido, muchos de los cuales enfrentan limitaciones regulatorias similares en cuanto a la deslocalización de datos.
El mismo conjunto de revelaciones también reveló que la Policía de Escocia optó por no consultar formalmente con el regulador de datos sobre los riesgos identificados con el sistema, mientras que la propia Oficina del Comisionado de Información (ICO) no dio seguimiento a por qué no hubo una consulta formal hasta casi tres meses después del despliegue real, a pesar de estar a la vista de los riesgos.
Las revelaciones también revelaron el consejo de la ICO a la Policía de Escocia sobre cómo legalizar la implementación de la nube. Si bien destacó algunos posibles mecanismos de transferencia que el regulador cree que pueden garantizar el cumplimiento, fue explícito que la guía “no constituye una aprobación para la implementación o garantía de cumplimiento”.
En febrero, la Policía Metropolitana anunció que eliminaría su controvertida base de datos Gangs Violence Matrix (GVM) después de preocupaciones de larga data sobre la desproporcionalidad racial de la herramienta.
Creada en 2012 como parte de la “guerra contra las pandillas” autoproclamada y libre de pruebas del gobierno a raíz de los disturbios de Tottenham, la Met estaba utilizando el secreto GVM para identificar, monitorear y atacar a individuos que la fuerza considera estar involucrado en la violencia de pandillas.
Dos investigaciones separadas realizadas por la oficina del comisionado de información del Reino Unido (ICO) y Amnistía Internacional de 2018 encontraron que el GVM afectaba desproporcionadamente a personas de comunidades étnicas minoritarias, y el 78% de los que figuraban en la base de datos en ese momento eran negros (en comparación con el 27% de las personas). condenado por delitos graves relacionados con la violencia juvenil siendo negro).
También encontraron que el 40% de los incluidos en la matriz tenían una “puntuación de daño” de cero aplicada por el algoritmo, lo que significa que la policía no tenía registro de que estuvieran involucrados en un delito violento, mientras que el 64% de todos los individuos habían sido etiquetados en verde ( la categoría de menor riesgo). Se encontró que alrededor del 75% de todas las personas nombradas en la matriz eran víctimas de violencia.
Sin embargo, grupos de derechos humanos advirtieron que su reemplazo probablemente repetiría los mismos errores y criticaron al Met por cuánto tiempo le tomó a la fuerza dejar de usar el sistema.
En noviembre, el primer ministro del Reino Unido, Keir Starmer, comprometió 75 millones de libras adicionales al recientemente creado Comando de Seguridad Fronteriza (BSC) para financiar su adquisición y uso de “equipos de vigilancia de última generación”, como parte de una represión más amplia contra la frontera. “Amenaza a la seguridad nacional” de las bandas de tráfico de personas
La nueva inversión en seguridad fronteriza se suma a los 75 millones de libras que el gobierno del Reino Unido había comprometido previamente para el BSC en septiembre de 2024, que se centró en desbloquear “nuevas tecnologías sofisticadas y capacidades adicionales”, como cámaras encubiertas, tecnologías de monitoreo, nuevas unidades de inteligencia y mejorar la inteligencia. y los flujos de información entre los organismos encargados de hacer cumplir la ley.
Esto significa que la inversión total en el BSC, que se creó en julio de 2024 para coordinar el trabajo de la Agencia Nacional contra el Crimen (NCA), las agencias de inteligencia, las fuerzas policiales, el Servicio de Control de Inmigración y la Fuerza Fronteriza, será de £150 millones durante los próximos dos años. .
Sin embargo, algunas organizaciones benéficas han criticado el enfoque del gobierno en la aplicación de la ley, señalando que podría llevar a personas desesperadas a emprender viajes más peligrosos y mortales. Sugirieron que, en cambio, el gobierno debería centrarse en crear rutas seguras y legales para que los refugiados ingresen al Reino Unido, que actualmente son extremadamente limitadas.
Los parlamentarios mantuvieron un debate abierto sobre el uso policial de la tecnología de reconocimiento facial en vivo en noviembre por primera vez desde que fue implementada inicialmente por la Policía Metropolitana en agosto de 2016, y surgió un consenso sobre la necesidad de que esté regulada por una ley específica. en lugar del mosaico de leyes y directrices oficiales que actualmente rigen los despliegues policiales.
Los parlamentarios, incluidos miembros de ambas bancadas, discutieron una variedad de cuestiones asociadas con la tecnología, incluidos los impactos de la vigilancia LFR en la privacidad; problemas relacionados con el sesgo, la precisión y la discriminación racial; la falta de un marco legal claro que regule su uso por parte de la policía; y cómo su implementación más amplia podría reducir aún más la cada vez menor confianza de la gente en la policía.
La mayoría de los diputados que participaron en el debate también lamentaron abiertamente que hasta ahora no se hubiera debatido sobre el uso de la tecnología por parte de la policía.
En los últimos años, ha habido repetidos llamamientos del Parlamento y de la sociedad civil para que se establezcan nuevos marcos legales que regulen el uso de la tecnología por parte de las fuerzas del orden. Estas incluyen tres investigaciones separadas del Comité de Justicia y Asuntos Internos de los Lores (JHAC) sobre hurto en tiendas, algoritmos policiales y reconocimiento facial policial; dos de los ex comisionados de biometría del Reino Unido, Paul Wiles y Fraser Sampson; una revisión legal independiente realizada por Matthew Ryder QC; la Comisión de Igualdad y Derechos Humanos del Reino Unido; y el Comité de Ciencia y Tecnología de la Cámara de los Comunes, que pidió una moratoria sobre las LFR ya en julio de 2019.
Durante su mandato antes de dimitir en octubre de 2023, Sampson también destacó la falta de claridad sobre la escala y el alcance de la vigilancia del espacio público, así como las preocupaciones en torno a la “cultura de retención” general en la vigilancia policial del Reino Unido en torno a los datos biométricos.
Sin embargo, el Ministerio del Interior y los órganos policiales han sostenido repetidamente que ya existe un “marco legal integral”.
Nueve fuerzas policiales están tratando de reemplazar su sistema común de gestión de registros (RMS) con una alternativa basada en la nube, pero a pesar de los próximos cambios en las leyes de datos del Reino Unido, los expertos dijeron a Computer Weekly que la gran probabilidad de que un hiperescalador con sede en EE. UU. gane el contrato continúa. riesgos.
Bajo el régimen de datos actual del Reino Unido, trasladar registros policiales confidenciales a uno de los gigantes de la nube de EE. UU. introduce importantes problemas de protección de datos. Sin embargo, las reformas de datos propuestas recientemente por el gobierno –que muy probablemente eliminarían muchos de estos riesgos al permitir transferencias rutinarias a hiperescaladores– podrían poner en peligro la capacidad del Reino Unido de mantener la adecuación de sus datos policiales ante la UE, mientras que los problemas relacionados con la soberanía de los datos aún persistirían.
Para evitar caer en la misma situación con el nuevo RMS basado en la nube, los expertos hicieron una serie de sugerencias sobre los pasos que deberían dar las fuerzas ahora como responsables del tratamiento de datos, antes de que avance la adquisición.
Si bien el nuevo Proyecto de Ley de Acceso y Uso de Datos (DUAB, por sus siglas en inglés) del gobierno está destinado a cambiar las reglas legales sobre el procesamiento policial de una manera que permitiría inequívocamente transferencias de datos de rutina a hiperescaladores, los expertos dicen que hacerlo aún podría poner en riesgo la capacidad del Reino Unido para retener su adecuación de la aplicación de la ley con la Unión Europea (UE) cuando se renueve en junio de 2025.
La Policía Metropolitana afirmó que sus despliegues de LFR en Lewisham cuentan con el apoyo de la mayoría de los residentes y concejales locales, pero una evaluación de impacto comunitario (CIA) obtenida posteriormente por Computer Weekly muestra que ha habido una consulta directa mínima con los residentes, mientras que los funcionarios electos continúan expresando inquietud.
En agosto de 2024, los concejales de Lewisham se quejaron de que no había habido ningún compromiso con la comunidad local antes de que se implementara la controvertida tecnología en el área, y el Met anunció que la tecnología se utilizaría en Tweet apenas un mes después de que los concejales le instaran a mejorar su comunidad. compromiso en torno a LFR.
En respuesta a las preguntas de Computer Weekly sobre las preocupaciones planteadas por los concejales de Lewisham, un portavoz de la Policía Metropolitana dijo en ese momento que sus despliegues de LFR “han sido muy apoyados por la mayoría de los residentes de Lewisham, propietarios de negocios y representantes políticos, concretamente los concejales de Lewisham”.
Sin embargo, según la CIA obtenida según las reglas de Foi por Computer Weekly, la única mención de “residentes” en todo el documento es cuando se detalla la respuesta de prensa dada a Computer Weekly.
Tanto los funcionarios electos como los activistas criticaron el enfoque de participación comunitaria del Met, diciendo que la fuerza estaba siguiendo adelante con el despliegue de LFR a pesar de la oposición; hacer preguntas capciosas durante la consulta mínima realizada; y utilizar el proceso de la CIA como sello de goma.
Un oficial de la Policía Metropolitana fue despedido después de acceder repetidamente a archivos confidenciales relacionados con la desaparición y el asesinato de Sarah Everard mientras estaba fuera de servicio, lo que generó preocupación de que los requisitos legales sobre el acceso a los datos de la policía, que deben ser eliminados por las reformas de datos del gobierno, no se están cumpliendo. seguido.
La Met dijo que un total de 104 oficiales y personal (68 oficiales y 36 miembros del personal) fueron inicialmente identificados como potencialmente accediendo a archivos relacionados con la investigación sin un propósito policial legítimo, lo que resultó en que siete oficiales recibieran avisos de mala conducta grave y aparecieran frente a una audiencia. Al final, se tomaron medidas contra dos tercios del personal y los agentes implicados.
Los activistas y expertos en privacidad dijeron que estas situaciones serían más probables si el uso y acceso a los datos del gobierno…