El director de inteligencia de los Servicios de Policía Metropolitana (MPS) ha defendido el uso de la tecnología de reconocimiento facial por parte de la fuerza ante un comité parlamentario, como parte de su investigación sobre la gobernanza de la tecnología de inteligencia artificial (IA) en el Reino Unido.
La sesión sigue a los informes de que el ministro de policía Chris Philp, en reuniones a puertas cerradas con el comisionado de biometría de Inglaterra y Gales, ha estado presionando para que la tecnología se implemente a nivel nacional y probablemente también presionará para integrar la tecnología con el video corporal de la policía. cámaras
Al comparecer ante el Comité de Ciencia y Tecnología, que lanzó su investigación sobre la gobernanza de la IA en octubre de 2022, la directora de inteligencia de MPS, Lindsey Chiswick, dijo que si bien existe una “preocupación pública” comprensible en torno al reconocimiento facial y la IA, la fuerza ha intentado implementarlo “en la medida de lo posible”. cuidadosa, proporcionada y transparente posible”.
Señalando un estudio reciente realizado por el Laboratorio Nacional de Física (NPL), que no encontró “significación estadística entre el desempeño demográfico” si se usan ciertas configuraciones en el sistema de reconocimiento facial en vivo (LFR) del Met, Chiswick dijo que esto fue encargado por la fuerza para comprender mejor los “niveles de sesgo en el algoritmo” y “cómo podemos usar la IA de manera proporcionada, justa y equitativa”.
Agregó que la fuerza también debe evaluar la necesidad y la proporcionalidad de cada despliegue individual de reconocimiento facial frente al propósito para el que se está utilizando.
“Por el momento, debe haber un caso de uso sólido de por qué estamos implementando la tecnología… Esta no es una expedición de pesca; estamos apuntando a áreas donde hay preocupación pública por los altos niveles de delincuencia, ya sea robos con cuchillos en Oxford Street, donde operaban antes, o si se trata de violencia relacionada con pandillas y robos con cuchillos que ocurren en Camden”, dijo.
“Llevar eso a cabo desde por qué estamos allí en primer lugar, luego está la proporcionalidad de la lista de vigilancia, siguiendo nuestra política sobre quién va allí y por qué”.
Cuando el parlamentario Stephen Metcalfe le preguntó por qué no todos están en las listas de vigilancia de reconocimiento facial de la policía, Chiswick señaló que este tipo de inclusión indiscriminada sería ilegal y reiteró la necesidad de la necesidad y la proporcionalidad.
En otra parte, agregó que cada lista de seguimiento personalizada se elimina después de su uso porque no hay una razón legal para retener los datos: “Técnicamente, podríamos mantener la lista de seguimiento, pero legalmente, no podemos”.
Sobre si las redes de circuito cerrado de televisión de ciudades o regiones enteras del Reino Unido podrían conectarse a un software de reconocimiento facial, Chiswick dijo nuevamente que si bien es “técnicamente… factible”, cuestionaría la proporcionalidad de conectar todas las cámaras en un solo sistema unificado.
Sin embargo, no hubo discusión sobre los problemas en curso relacionados con la retención ilegal de imágenes de custodia y otro material biométrico utilizado para completar las listas de vigilancia, que fueron destacados por los comisionados de biometría Fraser Sampson al Comité Conjunto de Derechos Humanos (JCHR) del Parlamento en febrero de 2023.
Estas mismas inquietudes fueron planteadas al Comité de Ciencia y Tecnología por el predecesor de Sampson, Paul Wiles, en marzo de 2019, quien dijo que había una “comprensión muy deficiente” del período de retención que rodea las imágenes de custodia en las fuerzas policiales de Inglaterra y Gales, a pesar de un alto 2012 Sentencia judicial que declaró ilícita su retención.
En declaraciones a Computer Weekly sobre los despliegues anteriores del Met, Caroline Russell, miembro de la Asamblea de Green London (quien fue elegida para presidir el comité de policía y crimen de la Asamblea a principios de mayo de 2023), dijo que las prácticas policiales desproporcionadas significan que las personas de ciertos grupos demográficos o antecedentes son los que que finalmente terminan poblando las listas de vigilancia de la policía.
“Si piensas en la desproporcionalidad en las detenciones y registros, la cantidad de personas negras y marrones, jóvenes, que están siendo detenidas, registradas y arrestadas, comienza a ser realmente preocupante porque la desproporcionalidad se incorpora a tus listas de vigilancia”, dijo.
Beneficios y resultados de la vigilancia
Al describir los beneficios operativos de la tecnología, Chiswick dijo a los parlamentarios que su uso ya ha dado lugar a “una serie de arrestos importantes”, incluso por conspiración para suministrar drogas de clase A, asalto a trabajadores de emergencia, posesión con la intención de suministrar drogas de clase A. , daños corporales graves y estar en libertad ilegalmente después de haber escapado de la prisión.
“Esos son algunos de los ejemplos que he traído aquí hoy, pero hay más beneficio que solo la cantidad de arrestos que la tecnología alerta a los policías para que lleven a cabo, hay un beneficio mucho más amplio. La coronación es un ejemplo de donde la disuasión fue un beneficio. Habrás notado que publicitamos con bastante anticipación que íbamos a estar allí como parte de ese efecto de disuasión”, dijo.
“Si recuerdo mi tiempo en Camden cuando fui a ver una de las implementaciones de reconocimiento facial, hubo un mayor beneficio para la comunidad en esa área en ese momento. De hecho, obtuvimos muchas reacciones muy positivas de los comerciantes y la población local debido al impacto que estaba teniendo sobre el crimen en esa área”.
Según el “documento de registro de despliegue” de reconocimiento facial del Met en su sitio web, se han realizado dos arrestos en lo que va de 2023 en seis despliegues, con estimaciones de que se escaneó la información biométrica de aproximadamente 84,600 personas.
En el transcurso de los primeros seis despliegues del MPS de 2022, la fuerza realizó ocho arrestos después de escanear la información biométrica de aproximadamente 144,366 personas, por delitos que incluyen los descritos por Chiswick, así como por no comparecer ante el tribunal y una infracción de tránsito no especificada.
Cuando se le preguntó si el Met puede mostrar un aumento en los arrestos y condenas como resultado de la tecnología, Chiswick dijo que la herramienta no se trata simplemente de aumentar el número de arrestos: “Esta es una herramienta de lucha contra el crimen comunitaria basada en la precisión. Para usar la terrible analogía de una aguja en un pajar, la tecnología nos permite elegir una posible coincidencia de alguien que es buscado, generalmente por delitos muy graves, y tener la oportunidad de ir a hablar con esa persona.
“Los resultados que les acabo de leer son personas que aún estarían en libertad si no hubiéramos usado esa tecnología. No es una herramienta para arrestos masivos, no es una herramienta que le dará un gran número de arrestos, es una herramienta que se enfocará de manera muy precisa en las personas que estamos tratando de identificar”.
A pesar de la naturaleza de los arrestos realizados con reconocimiento facial hasta el momento, el Ministerio del Interior y los ministros de policía han justificado repetidamente el uso de la tecnología sobre la base de que “desempeña un papel crucial para ayudar a la policía a abordar delitos graves, como asesinatos, delitos con cuchillo, violaciones, niños”. explotación sexual y terrorismo”.
Computer Weekly ha solicitado pruebas para respaldar esta afirmación en múltiples ocasiones, pero nunca ha recibido una respuesta del Ministerio del Interior. Sin embargo, el Met confirmó a Computer Weekly en enero de 2023 que no se han realizado arrestos por esos motivos como resultado del uso de LFR.
Supervisión biométrica
El comité también cuestionó a Chiswick sobre el proyecto de ley de protección de datos e información digital (DPDI) propuesto por el gobierno y, en particular, qué pensaba de las medidas para abolir el papel del comisionado de biometría y revocar el deber del gobierno de publicar un código de práctica de cámaras de vigilancia, que supervisa la uso de sistemas de vigilancia por parte de las autoridades en espacios públicos.
Si bien ha habido un debate sobre qué reguladores existentes podrían absorber las responsabilidades y funciones del comisionado de biometría, con sugerencias, por ejemplo, de que la Oficina del Comisionado de Información (ICO) o el Comisionado de Poderes de Investigación (IPCO) podrían ocuparse de diferentes aspectos de el papel: es abierto y continuo.
“No creo que necesariamente más supervisión agregada y desarrollada sea la mejor supervisión. Corremos el riesgo de tener una supervisión aislada (supervisión de la vigilancia, supervisión de la biometría, supervisión de los datos) cuando, en realidad, atraviesa todo eso. Actualmente, existe una guía que también se cruza y se superpone un poco”, dijo Chiswick a los parlamentarios.
“Entonces, en lugar de construir capas adicionales de supervisión, a un nivel más superficial, creo que sería genial tener una supervisión simplificada, pero con las preguntas correctas. Esa es la clave: profundizar correctamente en cómo estamos usando esa tecnología para garantizar que nos comportemos de la manera que debemos y con la que nos comprometemos en la política”.
Agregó: “Desde mi punto de vista, probablemente sea útil contar con menos organismos de vigilancia diferentes y un enfoque más simple para llegar al punto de hacer las preguntas correctas”.
Hablando ante el mismo comité en la próxima sesión, el director asociado de IA, leyes y políticas de datos en el Instituto Ada Lovelace, Michael Birtwistle, dijo: “La afirmación de que [the DPDI Bill] simplifica el panorama regulatorio puede ser cierto, en el sentido de que habrá menos actores en él, pero eso no significa que habrá más claridad regulatoria para los usuarios de esa tecnología… la eliminación del código de la cámara de vigilancia es una de esas cosas.
“Nuestra propuesta sobre una regulación biométrica integral centralizaría muchas de esas funciones dentro de una función reguladora específica en el ICO que tendría una responsabilidad específica para… cosas como publicar un registro de uso del sector público, exigir que las tecnologías biométricas cumplan con estándares con base científica y tener un papel en la evaluación de la proporcionalidad de su uso. Tener todas esas cosas sucediendo en un solo lugar sería una simplificación y proporcionaría una supervisión adecuada”.
Marion Oswald, investigadora asociada sénior de IA segura y ética y profesora asociada de derecho en el Instituto Alan Turing y la Universidad de Northumbria, estuvo de acuerdo en que la simplificación no significa necesariamente claridad: “Ciertamente, en el sector policial, necesitamos mucha más claridad sobre dónde la responsabilidad realmente recae. Tenemos muchos cuerpos con dedos en el pastel, pero no necesariamente alguien responsable de cocinar el pastel en general.
“La estructura regulatoria debe estar muy enfocada en cómo la policía usa los datos y las diferentes formas en que se puede implementar la IA. A veces se despliega con respecto a los poderes coercitivos (detención y registro y arresto), pero a veces se despliega en la etapa de investigación y la etapa de inteligencia, lo que genera todo tipo de consideraciones diferentes. Un regulador debe comprender eso y debe poder establecer reglas en torno a esos diferentes procesos y etapas”.
Tanto el Parlamento como la sociedad civil han pedido repetidamente nuevos marcos legales para regir el uso de la biometría por parte de las fuerzas del orden, incluida una investigación de la Cámara de los Lores sobre el uso policial de tecnologías algorítmicas avanzadas; una revisión legal independiente por Matthew Ryder QC; la Comisión de Igualdad y Derechos Humanos del Reino Unido; y el propio Comité de Ciencia y Tecnología de la Cámara de los Comunes, que pidió una moratoria sobre el reconocimiento facial en vivo desde julio de 2019.
En febrero de 2023, en su primer informe anual, Sampson también pidió marcos claros, completos y coherentes para regular el uso policial de la IA y la biometría en el Reino Unido.
Sin embargo, el gobierno ha sostenido que “ya existe un marco integral”.