La Ley de Inteligencia Artificial de la Unión Europea ha superado un hito importante luego de una votación plenaria sobre la posición negociadora que el Parlamento Europeo toma con los estados miembros.
Después de la votación, el co-ponente Dragos Tudorache (Renew, Rumania) dijo: “La Ley de IA marcará la pauta en todo el mundo en el desarrollo y la gobernanza de la inteligencia artificial, asegurando que esta tecnología, preparada para transformar radicalmente nuestras sociedades a través de los enormes beneficios que ofrece. puede ofrecer, evoluciona y se utiliza de acuerdo con los valores europeos de democracia, derechos fundamentales y Estado de derecho”.
La Unión Europea (UE) planea frenar la forma en que las grandes empresas tecnológicas utilizan la inteligencia artificial (IA). “Queremos que se aproveche el potencial positivo de la IA para la creatividad y la productividad, pero también lucharemos para proteger nuestra posición y contrarrestar los peligros para nuestras democracias y libertades durante las negociaciones con el consejo”, dijo el coponente Brando Benifei (S&D, Italia).
La Ley de IA prohíbe los sistemas de identificación biométrica en tiempo real y post-remoto en espacios de acceso público, junto con los sistemas de categorización biométrica que utilizan características sensibles como el género, la raza, el origen étnico, el estado de ciudadanía, la religión y la orientación política.
Los sistemas policiales predictivos, que utilizan perfiles, ubicación o conductas delictivas pasadas, también están prohibidos, al igual que el uso de sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas. También está prohibida la extracción no dirigida de imágenes faciales de Internet o imágenes de CCTV para crear bases de datos de reconocimiento facial, lo que viola los derechos humanos y los derechos de privacidad.
Margrethe Vestager, que lidera la estrategia de la UE sobre IA, cree que debe haber un equilibrio entre libertad y seguridad. Pero también debe haber un equilibrio entre la innovación y la garantía de que se protegen los derechos fundamentales de las personas.
Hablando después de la votación, dijo: “Creo que todos han escuchado, y probablemente estén de acuerdo, que la IA es demasiado importante para no regularla. Es demasiado importante para estar mal regulado. Una buena regulación en la que todos estemos de acuerdo lo antes posible debe ser un objetivo común, y necesitamos una aplicación sólida. Necesitamos que estas obligaciones que nos otorga esta ley sean reales sobre el terreno para que las personas estén seguras”.
“La IA es demasiado importante para no regularla. Es demasiado importante para estar mal regulado. Una buena regulación en la que todos estemos de acuerdo cuanto antes debe ser un objetivo común”
Margrethe Vestager, la estrategia de la UE sobre el liderazgo de la IA
Ventsislav Ivanov, experto en inteligencia artificial y profesor del Oxford Business College, dijo: “Enfrentarse a las empresas tecnológicas globales y otras partes interesadas será como Hércules luchando contra la hidra de siete cabezas. Para resolver el problema, los políticos primero deben identificar la amenaza, y con una tecnología que evoluciona tan rápidamente, esto es como tratar de clavar jalea en la pared”.
Tim Wright, socio de regulación de tecnología e inteligencia artificial en el bufete de abogados británico Fladgate, instó a las empresas que planean construir sistemas de inteligencia artificial para comprender las implicaciones de la regulación propuesta.
“Una vez que se finalice la Ley de IA, la UE comenzará a trabajar en estándares armonizados bajo la ley, que se aplicarán en toda la UE”, dijo. “Las empresas no deben dejar su planificación, preparación e implementación demasiado tarde. Al igual que con el RGPD [General Data Protection Regulation]el incumplimiento de la Ley de AI tendrá un costo significativo”.
Si bien la IA promete muchos beneficios para la sociedad, la investigación ha demostrado con qué facilidad puede ser mal utilizada o explotada de manera nefasta. Por ejemplo, una investigación de Amnistía Internacional ha descubierto que las cámaras fabricadas por una empresa holandesa llamada TKH Security se utilizan en espacios públicos en el este de Jerusalén ocupado. Investigaciones similares han revelado que empresas con sede en Francia, Suecia y los Países Bajos vendieron sistemas de vigilancia digital, como tecnología de reconocimiento facial y cámaras de red, a jugadores clave del aparato de vigilancia masiva chino.
