El par liberal demócrata Lord Clement-Jones ha presentado un proyecto de ley de miembros privados para regular el uso de inteligencia artificial (IA), algoritmos y tecnologías de toma de decisiones automatizadas por parte de las autoridades públicas, citando la necesidad de evitar otro escándalo de Correos.
Según las propuestas –presentadas por Lord Clement-Jones el 9 de septiembre– si “la computadora dice no” a una decisión sobre beneficios, inmigración o similar, un ciudadano tendría derecho a acceder a la información sobre por qué sucedió eso para tener la oportunidad de desafiarlo.
En los casos en que un ciudadano decide impugnar una decisión automatizada tomada sobre él, el proyecto de ley sobre sistemas algorítmicos y de toma de decisiones automatizados de autoridad pública de Clement-Jones también obligaría al gobierno a proporcionar un servicio independiente de resolución de disputas.
Las autoridades públicas en general también estarían obligadas a publicar evaluaciones de impacto de cualquier algoritmo automatizado o de inteligencia artificial que influya en los procesos de toma de decisiones (lo que incluiría una evaluación de sesgo obligatoria para garantizar el cumplimiento de la Ley de Igualdad y la Ley de Derechos Humanos), así como a mantener un registro de transparencia para brindar mayor información pública sobre cómo se está utilizando cada sistema.
“El escándalo de Post Office/Horizon demuestra el doloroso costo humano cuando no existen controles adecuados para cuestionar estos sistemas automatizados. En este momento, no existen obligaciones legales para que las autoridades públicas sean transparentes sobre cuándo y cómo utilizan estos algoritmos. Insto al gobierno a que apoye estos cambios”, dijo Lord Clement-Jones.
“Con demasiada frecuencia en el Reino Unido legislamos cuando el daño ya está hecho. Necesitamos ser proactivos, no reactivos, cuando se trata de proteger a los ciudadanos y sus interacciones con las nuevas tecnologías. Necesitamos estar a la vanguardia en lo que respecta a la regulación de la IA. Simplemente no podemos arriesgarnos a otro escándalo de Horizon”.
Para aumentar la legibilidad de las decisiones automatizadas, el proyecto de ley incluye disposiciones para garantizar que cualquier sistema implementado por las autoridades públicas esté diseñado con capacidades de registro automático, de modo que su funcionamiento pueda ser monitoreado e interrogado continuamente.
También contiene disposiciones adicionales que prohíben la adquisición de sistemas que no puedan ser examinados, incluso cuando las autoridades públicas se vean obstaculizadas en sus esfuerzos de seguimiento por medidas contractuales o técnicas, y por los intereses de propiedad intelectual de los proveedores.
Otros parlamentarios han presentado anteriormente proyectos de ley similares relacionados con la IA para miembros privados, incluido Lord Christopher Holmes, quien presentó la Inteligencia Artificial. [Regulation] Proyecto de ley en noviembre de 2023 sobre la base de que el enfoque de “esperar y ver” del entonces gobierno respecto de la legislación sobre IA haría más daño que bien; y el parlamentario laborista Mick Whitley, quien presentó su proyecto de ley de IA centrado en los trabajadores en mayo de 2023 para abordar los usos nocivos de la IA en el lugar de trabajo.
En abril de 2024, el Congreso de Sindicatos (TUC) también publicó una ley “lista para funcionar” para regular la IA en el lugar de trabajo, que establece una serie de nuevos derechos legales y protecciones para gestionar los efectos adversos de la toma de decisiones automatizada. sobre los trabajadores.
Desde que el anterior gobierno conservador publicó su documento técnico sobre IA en marzo de 2023, ha habido un importante debate sobre si el marco “ágil y pro-innovación” que describió para regular la tecnología de IA es el enfoque correcto.
Según esas propuestas, el gobierno habría dependido de los reguladores existentes para crear reglas adaptadas y específicas al contexto que se adapten a las formas en que se utiliza la tecnología en los sectores que examinan.
Tras la publicación del documento técnico, el gobierno promovió ampliamente la necesidad de seguridad de la IA basándose en que las empresas no la adoptarán hasta que tengan confianza en que los riesgos asociados con la tecnología (desde el sesgo y la discriminación hasta el impacto en el empleo y los resultados de la justicia) se están abordando. mitigado efectivamente.
Si bien el gobierno anterior pasó sus últimos meses reforzando este enfoque general en su respuesta formal a la consulta del documento técnico de enero de 2024, afirmando que no legislará sobre IA hasta que sea el momento adecuado, más tarde dijo en febrero de 2024 que podría haber acuerdos vinculantes. reglas introducidas en el futuro para los sistemas de IA de mayor riesgo.
Aunque el último discurso del Rey dijo que el nuevo gobierno laborista “buscará establecer la legislación adecuada para imponer requisitos a quienes trabajan en el desarrollo de los modelos de inteligencia artificial más potentes”, no hay planes para una legislación específica sobre IA.
La única mención de la IA en la sesión informativa del discurso fue como parte de un proyecto de ley de metrología y seguridad de productos, cuyo objetivo es responder “a los riesgos y oportunidades de nuevos productos para permitir que el Reino Unido siga el ritmo de los avances tecnológicos, como la IA”.
Si bien los proyectos de ley de miembros privados rara vez se convierten en ley, a menudo se utilizan como mecanismo para generar debates sobre temas importantes y poner a prueba la opinión en el Parlamento.