Se necesitan marcos claros, integrales y coherentes para regular el uso policial de la inteligencia artificial (IA) y la biometría en el Reino Unido, dijo el comisionado de biometría y cámaras de vigilancia.
Como comisionado para la retención y uso de datos biométricos, Fraser Sampson es responsable de supervisar el uso policial de ADN y huellas dactilares en Inglaterra, Gales e Irlanda del Norte, así como de monitorear el uso de cámaras de vigilancia en espacios públicos bajo su rol de comisionado de cámaras de vigilancia. .
En el primer informe anual que cubre su doble función, que se entregó a la ministra del Interior, Suella Braverman, en noviembre de 2022 y se presentó ante el Parlamento el 9 de febrero de 2023, Sampson cubrió ampliamente el uso de la IA y el reconocimiento facial por parte de la policía del Reino Unido, que señaló se encuentra en el intersección de sus roles discretos pero conectados.
“Las áreas de biometría y vigilancia se están volviendo cada vez más importantes y cada vez más interrelacionadas”, dijo Sampson.
“Creo que muchos de los problemas planteados en mi informe muestran que necesitamos despertar urgentemente a las oportunidades que presenta y las amenazas que plantea la explosión de capacidad en la vigilancia biométrica impulsada por IA. Si fallamos, corremos el riesgo de perder los beneficios potenciales que puede ofrecer y exponernos a los peligros potenciales que plantea”.
Agregó que si bien las tecnologías de vigilancia biométrica como el reconocimiento facial en vivo (LFR, por sus siglas en inglés) pueden “indudablemente ser una intrusión en la privacidad y plantear otras consideraciones de derechos humanos”, tampoco hay “ninguna duda” de que también pueden ayudar a combatir delitos graves y salvaguardar otros derechos fundamentales. como el derecho a la vida o a no ser sometido a tratos degradantes.
“La medida en que el público tolerará el reconocimiento facial y otras tecnologías emergentes de vigilancia biométrica dependerá en gran medida de si cree que existen mecanismos para garantizar que se usen de manera legal, responsable y de acuerdo con un conjunto de principios claros que garanticen su uso. el uso está dictado por lo que la sociedad considera aceptable, y no simplemente por lo que la tecnología hace posible”, dijo.
Para hacer frente a los peligros potenciales asociados con la biometría impulsada por IA, Sampson agregó que “necesitamos un marco claro, completo y coherente para garantizar una regulación y responsabilidad adecuadas”.
Tanto el Parlamento como la sociedad civil han pedido repetidamente nuevos marcos legales para regir el uso de la biometría por parte de las fuerzas del orden, incluida una investigación de la Cámara de los Lores sobre el uso policial de tecnologías algorítmicas avanzadas; el excomisionado de biometría del Reino Unido, Paul Wiles; una revisión legal independiente por Matthew Ryder QC; la Comisión de Igualdad y Derechos Humanos del Reino Unido; y el Comité de Ciencia y Tecnología de la Cámara de los Comunes, que pidió una moratoria sobre LFR desde julio de 2019.
Sin embargo, el gobierno sostiene que “ya existe un marco integral”.
En respuesta al informe, el ministro de policía Chris Philip escribió: “Como ha dicho, las capacidades disponibles para la policía están en constante expansión, y es correcto que los apoyemos para utilizar las oportunidades que presenta, de una manera que mantenga la confianza pública. ”
Inquietudes en torno a la IA policial y LFR
En el propio informe, Sampson señaló que la principal tensión entre los defensores y los opositores de LFR proviene de la falta percibida de transparencia y rendición de cuentas en torno a su uso, y la ausencia de un requisito expreso para que las fuerzas policiales demuestren por qué y cómo, sus despliegues. son necesarios y proporcionados.
“Ha pasado más de una década desde que el gobierno abandonó el concepto de tarjetas de identificación obligatorias, sin embargo, estamos pasando de un modelo estándar de vigilancia policial de humanos que buscan a otros humanos a un proceso automatizado e industrializado (como algunos lo han caracterizado, un movimiento de línea desde la pesca hasta la pesca de arrastre en alta mar)”, escribió.
“En ese contexto, debemos reconocer las preocupaciones de que se nos detenga en nuestras calles, en centros de transporte, estadios exteriores o terrenos escolares sobre la base de una selección generada por IA y se nos solicite que demuestremos nuestra identidad a satisfacción del oficial examinador o de el propio algoritmo.”
Sampson agregó que está particularmente preocupado por el potencial de uso retrospectivo de la tecnología para localizar testigos; como se describe en la guía publicada por el Colegio de Policía en marzo de 2022, que sugirió que los testigos del delito, así como las víctimas, podrían incluirse en las listas de vigilancia de reconocimiento facial.
Dijo que cualquier caso en el que el reconocimiento facial retrospectivo pueda “legítimamente hacer una contribución significativa”, como a raíz de ataques terroristas o desastres naturales, es “graciosamente raro y totalmente excepcional”.
Si la policía comienza a usar algoritmos para rastrear a todos los que se dice que estuvieron presentes en un evento en particular, dijo, “eso es un desarrollo nuevo y algo siniestro”.
“Como lo describió un grupo caritativo, tal situación significaría que todos nos convertiríamos en participantes involuntarios en un desfile de identidad policial permanente”.
Asociaciones Público-Privadas
Sampson señaló además que la gran mayoría de la capacidad de vigilancia biométrica del Reino Unido es de propiedad privada y solo se puede acceder a ella mediante acuerdos contractuales entre los cuerpos policiales y el sector privado.
Dijo que esta “transformación contextual” debería reflejarse en cualquier nueva regulación, que debería adoptar un enfoque de sistemas holísticos para cubrir a todos los actores involucrados en el ecosistema de vigilancia biométrica: “En un entorno sistémico, la contaminación de una parte contamina el todo”.
Luego de una investigación de 10 meses sobre el uso de tecnologías algorítmicas avanzadas por parte de la policía del Reino Unido, incluido el reconocimiento facial y varias herramientas de “predicción” de delitos, el Comité de Justicia y Asuntos Internos de los Lores (HAJC) descubrió que había “mucho entusiasmo” sobre el uso de sistemas de inteligencia artificial de quienes ocupan puestos superiores, pero dijo que “no detectamos un compromiso correspondiente con ninguna evaluación exhaustiva de su eficacia”.
El HAJC también señaló una serie de “prácticas de venta dudosas” derivadas de un conflicto de intereses entre las fuerzas policiales, que están obligadas en virtud de la PSED a considerar cómo sus políticas y prácticas podrían ser discriminatorias, y los proveedores del sector privado, que a menudo quieren proteger sus propiedad intelectual y secretos comerciales.
En agosto de 2020, por ejemplo, el Tribunal de Apelación consideró ilegal el uso de la tecnología LFR por parte de la Policía de Gales del Sur, en parte debido al hecho de que la fuerza no cumplió con su deber de igualdad en el sector público.
En la sentencia se señaló que el proveedor en ese caso, la firma japonesa de biometría NEC, se negó a divulgar los detalles de su sistema a SWP, lo que significa que la fuerza no pudo evaluar completamente la tecnología y sus impactos.
“Por razones de confidencialidad comercial, el fabricante no está dispuesto a divulgar los detalles para que pueda ser probado”, dijo el fallo. “Eso puede ser comprensible, pero en nuestra opinión no permite que una autoridad pública cumpla con su propio deber, no delegable, en virtud de la sección 149”.
Otras preocupaciones importantes
Además del reconocimiento facial y la IA, el informe de Sampson también analiza una variedad de otros temas cubiertos por sus funciones de comisionado dual, incluido el avance de la misión en el uso del Reconocimiento automático de matrículas (ANPR) y los planes del gobierno del Reino Unido para eliminar su función conjunta.
Sobre ANPR, que se introdujo originalmente en 1976 y es la base de datos no militar más grande del Reino Unido, Sampson dijo que su uso está casi completamente desregulado y no tiene un marco legal firme.
Dijo que el sistema ahora puede hacer mucho más de lo que se diseñó originalmente, como capturar datos no vehiculares y monitorear personas, comportamiento, asociaciones, redes y hábitos; no solo en relación con el conductor, sino también con los ocupantes del vehículo. “Debo agregar que no critico el uso de ANPR por parte de la policía, sino todo lo contrario, pero destaco el potencial de avance de la misión que puede tener consecuencias para sus propósitos originales de vigilancia y aplicación de la ley”, dijo. “Existe una clara necesidad de una base estructural para el sistema, que actualmente falta y se ve exacerbada por la complejidad de que no se trata de un sistema único y homogéneo”.
Si bien este es el primer informe combinado que cubre la doble función de Sampson como comisionado de cámaras biométricas y de vigilancia, también podría ser el último.
En noviembre de 2021, el gobierno del Reino Unido propuso fusionar aún más los roles de Sampson bajo el ámbito de la Oficina del Comisionado de Información (ICO), que el propio Sampson describió en ese momento como “mal concebido”.
En su informe, agregó “si bien me alivia un poco ver que el gobierno ha decidido no transferir todas estas funciones al ICO, la propuesta en el Proyecto de Ley de Protección de Datos e Información Digital simplemente elimina el Código de Cámara de Vigilancia y sus funciones asociadas en lugar de que prever que sean asumidos por el ICO como se propone en la consulta.”
En enero de 2022, el Parlamento aprobó un Código de prácticas de cámaras de vigilancia revisado y aborda específicamente el uso de la vigilancia del espacio público, incluido el uso de tecnología de reconocimiento facial, por parte de la policía y las autoridades locales.