Los Lores han expresado “serias preocupaciones” sobre el uso de la tecnología de reconocimiento facial en vivo (LFR) por parte de los minoristas y están pidiendo nuevas leyes para garantizar su uso seguro y ético por parte de las empresas privadas.
En mayo de 2024, el Comité de Justicia y Asuntos Internos de la Cámara de los Lores (JHAC) lanzó una investigación para abordar el hurto en tiendas, que se centró en parte en cómo la policía y los minoristas están utilizando el reconocimiento facial (RFR) tanto en vivo como retrospectivo para hacer frente a los delitos en el comercio minorista.
Tras su investigación, la JHAC ha escrito al Ministerio del Interior detallando sus preocupaciones sobre el reconocimiento facial en el comercio minorista, y está pidiendo al gobierno del Reino Unido que presente una nueva legislación que describa los principios generales y establezca estándares mínimos para el uso de nuevas tecnologías, especialmente cuando siendo utilizado por empresas privadas con fines de prevención de delitos.
Destacando el hecho de que los minoristas a menudo colaboran entre sí para crear bases de datos localizadas y listas de vigilancia de delincuentes de robo conocidos, los Lores explicaron que no existe un umbral penal para ser incluidos, lo que podría generar una serie de problemas.
“Esto significa que un individuo puede ser incluido en una lista de vigilancia de reconocimiento facial privado y incluido en la lista negra de su calle principal (y de los minoristas suscriptores en toda la región) a discreción de un guardia de seguridad, sin que se realice ningún informe policial y sin que se le informe al individuo que “Se han agregado a una lista de vigilancia”, dijeron al Ministerio del Interior.
“Estamos preocupados por las implicaciones de lo que en realidad es una actividad policial privatizada, la naturaleza oculta de las decisiones que se toman sobre la base de datos cotejados con entradas en una base de datos privada y la falta de recursos para personas que puedan haber sido ingresadas erróneamente en la base de datos privada. base de datos debido a una identificación errónea”, agregaron.
“Estamos preocupados por el posible incumplimiento del RGPD [General Data Protection Regulation] infracciones y el riesgo de identificación errónea debido al sesgo y la discriminación dentro de los algoritmos”.
Riesgos para los derechos y libertades
Tomando nota de la evidencia del grupo de campaña Big Brother Watch, el comité destacó que la Ley de IA de la Unión Europea (UE) “prohíbe ampliamente” el uso de LFR dados los riesgos extraordinarios que plantea para los derechos y libertades de las personas, añadiendo que también existe un riesgo de sesgo y discriminación de los algoritmos en uso, con estudios que muestran que los sistemas son menos precisos para las personas con piel más oscura.
Si bien el comité escuchó en septiembre de 2024 a los minoristas decir que LFR sería de uso limitado para abordar el robo en tiendas debido a las preocupaciones éticas y de seguridad asociadas (que cree que pueden aclararse a través de una nueva legislación primaria), también dijeron que trabajar con la policía para identificar automáticamente A los infractores después del hecho con RFR debería ser una práctica estándar.
Paul Garrard, director de asuntos públicos y secretaría de la junta directiva del Co-op Group, por ejemplo, dijo a Lords que si bien la organización en sí no utiliza LFR para detectar robos en tiendas en tiempo real, compilará un “paquete de pruebas” para la policía cuando denuncie un robo. , que incluirá material como CCTV y grabaciones de cámaras corporales del personal que se ejecutarán a través del software RFR.
Añadió que, aunque algunas fuerzas policiales tomarán las imágenes recopiladas y las compararán con las fotografías contenidas en la Base de Datos Nacional de la Policía (PND), que contiene millones de imágenes de custodia, muchas de las cuales están retenidas ilegalmente por el Ministerio del Interior, actualmente no es posible Es una práctica habitual que la policía coteje automáticamente las imágenes proporcionadas con la base de datos.
En octubre de 2023, el gobierno del Reino Unido lanzó una asociación entre empresas y policía llamada Proyecto Pegasus, parte del cual gira en torno a 14 de los minoristas más grandes del Reino Unido, incluidos M&S, Boots y Co-op, que comparten imágenes de CCTV con las fuerzas para que puedan transmitirlas a través del PND mediante software RFR.
Tras señalar los “pasos positivos dados por Pegasus para abordar el crimen minorista organizado”, el JHAC dijo que acogería con agrado la continuación del plan, que se centra específicamente en los aspectos criminales organizados del hurto en tiendas en lugar de en los delincuentes locales o prolíficos, y agregó que debería recibir una un año más de financiación del Ministerio del Interior.
“Recomendamos el desarrollo de sistemas de denuncia mejorados para acelerar el proceso mediante el cual los minoristas pueden denunciar delitos a la policía”, dijo. “Esto incluye la introducción de una ‘bandera minorista’ para identificar en la base de datos nacional de la policía y los sistemas de gestión de casos de justicia penal cuando un delito ha tenido lugar en un establecimiento minorista”.
Reiterando hallazgos anteriores
La JHAC también destacó su investigación anterior sobre tecnologías algorítmicas avanzadas de la policía del Reino Unido, incluido el reconocimiento facial y varias herramientas de “predicción” de delitos, que encontró que la tecnología se está implementando sin un examen exhaustivo de su eficacia o resultados, con la policía y el Ministerio del Interior esencialmente “recuperándolo a medida que avanzan”.
Además, describió la situación como “un nuevo Salvaje Oeste” caracterizado por una falta de estrategia, responsabilidad y transparencia desde arriba hacia abajo. “Dados los costos potenciales de las tecnologías y los problemas que pueden surgir y surgen de su implementación, incluso con respecto a los derechos de privacidad, las libertades y la discriminación, consideramos que se requiere un marco legal más sólido para evitar daños al Estado de derecho”, afirmó. dicho.
Una breve investigación de seguimiento realizada por el JHAC que analizó específicamente el uso de LFR por parte de la policía también encontró que están expandiendo rápidamente su uso de la tecnología sin un escrutinio ni responsabilidad adecuados, y carecen de una base legal clara para sus despliegues. Sin embargo, el gobierno afirmó a raíz de la investigación que ya existe un “marco legal integral”.
“Reiteramos nuestra recomendación anterior y creemos que es necesario regular las nuevas tecnologías, particularmente en relación con su uso por parte de empresas privadas para medidas de prevención del delito”, dijo la JHAC al Ministerio del Interior en su carta de investigación sobre hurto. “Consideramos que este enfoque lograría un equilibrio entre la preocupación de que una ley demasiado prescriptiva pueda sofocar la innovación y la necesidad de garantizar un uso seguro y ético de las tecnologías”.
Computer Weekly se puso en contacto con el Ministerio del Interior sobre los hallazgos de la investigación de JHAC, incluido si todavía mantiene la posición de que ya existe un marco integral que rige el uso del reconocimiento facial.
“El hurto en tiendas ha alcanzado un nivel récord”, dijo un portavoz del Ministerio del Interior. “Este gobierno está tomando medidas enérgicas al eliminar el umbral de £ 200 para el hurto de bajo valor en tiendas y tipificar como delito penal específico las agresiones a trabajadores de tiendas. La tecnología de reconocimiento facial es una herramienta importante que ayuda a la policía a identificar a los delincuentes y llevarlos ante la justicia. Revisamos constantemente su uso para mantener nuestras calles seguras y garantizar que restablezcamos la confianza del público en nuestra policía”.
Tanto el Parlamento como la sociedad civil han pedido repetidamente nuevos marcos legales para regir el uso de la biometría por parte de las fuerzas del orden, incluidos dos de los ex comisionados de biometría del Reino Unido, Paul Wiles y Fraser Sampson; una revisión legal independiente realizada por Matthew Ryder QC; la Comisión de Igualdad y Derechos Humanos del Reino Unido; y el Comité de Ciencia y Tecnología de la Cámara de los Comunes, que pidió una moratoria sobre las LFR ya en julio de 2019.
Durante su mandato antes de dimitir en octubre de 2023, Sampson también destacó la falta de claridad sobre la escala y el alcance de la vigilancia del espacio público, así como las preocupaciones sobre la “cultura de retención” general en la vigilancia policial del Reino Unido en torno a los datos biométricos.