El gobierno del Reino Unido no está protegiendo a los trabajadores de ser “explotados” por tecnologías de inteligencia artificial (IA), que si no se controlan podrían conducir a una mayor discriminación en el lugar de trabajo en toda la economía, dijo el Congreso de Sindicatos (TUC).
El organismo sindical advirtió además que muchos trabajadores ni siquiera saben que la IA se está utilizando para tomar decisiones que los afectan, incluidas decisiones sobre gestión de línea, contratación y despido, o que se está utilizando para monitorearlos, perfilarlos y analizarlos.
Agregó que el documento técnico de IA del gobierno, que se publicó en marzo de 2023 y describía su marco “pro-innovación” para regular la IA, solo ofrecía una serie de compromisos “vagos” y “débiles” para el uso ético de la IA en el trabajo, y que su Ley de Protección de Datos e Información Digital (DPDI) separada ha establecido una “dirección de viaje preocupante”.
La secretaria general adjunta de TUC, Kate Bell, dijo que, a pesar de los riesgos de que la IA pueda conducir a una discriminación generalizada en el lugar de trabajo, el gobierno se niega a establecer las “barandillas” necesarias para salvaguardar los derechos de los trabajadores. “En lugar de protecciones claras y exigibles, los ministros han emitido una serie de compromisos vagos y endebles que no valen ni el papel en el que están escritos”, dijo. “Y no han proporcionado a los reguladores los recursos que necesitan para hacer su trabajo correctamente. Es esencial que la legislación laboral siga el ritmo de la revolución de la IA. Pero el triste libro blanco de IA del mes pasado fracasó espectacularmente en hacer eso”.
Respecto a la DPDI, agregó que el gobierno está “diluyendo protecciones importantes… [which] dejará a los trabajadores más vulnerables a los patrones sin escrúpulos”.
Para reducir el potencial de discriminación impulsada por la IA, el TUC dijo que quiere que los empleadores revelen cómo se utiliza la IA para tomar decisiones sobre el personal, y que todas las decisiones deben estar sujetas a una revisión humana para que los trabajadores puedan cuestionarlas.
El TUC advirtió previamente en marzo de 2022 que la vigilancia del lugar de trabajo impulsada por IA está “fuera de control” y podría conducir a una discriminación generalizada, intensificación del trabajo y trato injusto sin una regulación más estricta para proteger a los trabajadores.
La IA profundiza los desequilibrios de poder
Durante los TUC [email protected] conferencia el 18 de abril de 2023, los oradores discutieron en mayor profundidad los problemas actuales relacionados con la gobernanza de la IA en el Reino Unido y el impacto que tiene la tecnología en quienes están sujetos a ella en el lugar de trabajo.
Destacaron específicamente el potencial de la IA para profundizar los desequilibrios de poder en el lugar de trabajo y enfatizaron la necesidad de que los trabajadores sean incluidos en las conversaciones sobre la introducción de nuevas tecnologías.
Andrew Pakes, secretario general adjunto de Prospect Union, por ejemplo, dijo que si bien existen importantes debates filosóficos sobre los valores integrados en la IA y el papel general de la tecnología en la sociedad, el problema práctico central de la IA en el trabajo es cómo perpetúa o magnifica los desequilibrios de poder existentes entre empleadores y trabajadores.
“Esta idea de que AI ahora puede contratarnos, administrarnos, monitorearnos, promovernos y despedirnos significa que estamos viendo un cambio en un nivel que no hemos visto antes”, dijo. “Pero lo importante es que hay un jefe que se sienta detrás y un gerente que se sienta detrás, y esa es la relación que queremos tratar de arreglar”.
Pakes agregó que el cambio al trabajo remoto fomentado por la pandemia ha llevado a una explosión de IA y vigilancia digital automatizada de los trabajadores, incluso de pequeñas empresas de software de vigilancia dedicadas, así como nombres conocidos como Microsoft, que a su vez ha intensificado la “datificación”. ” de trabajadores.
Si bien la vigilancia del lugar de trabajo impulsada por IA ofrece un mayor control a las organizaciones sobre el comportamiento de los trabajadores, Pakes dijo que la creciente datificación de los empleados también es un “centro de ganancias” para los empleadores, que pueden vender los datos a terceros.
“No todos nosotros, pero muchos de nosotros, podemos llevar nuestro trabajo a casi cualquier lugar ahora con la tecnología, pero también significa que nuestro trabajo y nuestros jefes pueden seguirnos a casi todas partes, a nuestra vida privada, a nuestros hogares”, dijo. , y agregó que la vigilancia impulsada por IA ya no se limita al “canario en la mina de carbón” de los trabajadores de logística y almacén.
“No importa si es un trabajador de cuello azul o blanco, no importa si está en una fábrica, en la oficina o en casa: este software puede controlarnos, rastrearnos e invadirnos, y realmente necesito hablar de eso.”
Gina Neff, directora ejecutiva del Centro Minderoo para la Tecnología y la Democracia de la Universidad de Cambridge, dijo que, como parte de su investigación, entrevistó a numerosos economistas que solo ofrecieron un “encogimiento de hombros colectivo” cuando se les preguntó qué pensaban sobre la situación general a largo plazo. El impacto de la IA estará en el trabajo.
“Estamos implementando tecnologías sin comprender cómo afectan el trabajo y los lugares de trabajo”, dijo, describiendo el proceso de implementación de IA como un “experimento social masivo” instigado desde arriba. “Si hay una lección que tomamos de la historia de la transformación digital, [it’s that] la innovación no nos sucede a nosotros, está hecha: y está hecha por personas en sus trabajos.
“Estamos en medio de una enorme toma de poder, no se equivoquen al respecto”, agregó Neff. “Cuando hablamos de inteligencia artificial en el lugar de trabajo, estamos hablando de un cambio de poder. Necesitamos tener a todos, especialmente a los trabajadores, en la mesa para entender lo que estos cambios están haciendo en nuestras vidas”.
Incluidos los trabajadores
Renate Samson, directora adjunta interina del Instituto Ada Lovelace, también señaló que, hasta ahora, el público y los trabajadores han sido excluidos en gran medida de las conversaciones sobre el desarrollo, la implementación y la regulación de la IA. “Si vamos a hablar sobre el bien público, creo que todos debemos ser parte de la conversación, y eso significa hablar con personas con experiencia vivida, hablar con personas en el EHRC, hablar con personas para comprender dónde se encuentra este sesgo. les pasó”, dijo.
Samson agregó que si bien los debates actuales sobre la IA se centran en cómo generar confianza en la tecnología, la reparación es aún más importante. “No se trata de desarrollar confianza”, dijo. “Se trata de desarrollar una reparación cuando se rompe la confianza, y cómo podemos obtener una reparación si no sabemos [whether] ¿Se está usando el sistema contra nosotros, a favor de nosotros o con nosotros?
Al destacar el eslogan histórico del movimiento de discapacidad de “nada sobre nosotros sin nosotros”, Pakes estuvo de acuerdo en que los trabajadores y los sindicatos simplemente no están en la sala cuando se llevan a cabo conversaciones sobre IA.
“Gran parte del debate está impulsado por el gobierno o los tecnólogos, o expertos en el tercer sector”, dijo. “No estamos en el consejo de IA, no se nos menciona en la estrategia de IA del gobierno. No tiene por qué ser tan difícil. Hay una razón por la que Gran Bretaña tiene uno de los conjuntos de lugares de trabajo más seguros del mundo: porque sabemos cómo gestionar el riesgo y reducir los daños, y los trabajadores están involucrados en ese proceso”.
Robin Allen, un abogado de empleo e igualdad en Cloisters Chambers que cofundó AI Law Consultancy, dijo: “La IA es esencialmente una tecnología de estereotipos y, por lo tanto, casi siempre tiene algún tipo de impacto discriminatorio a menos que seas muy cuidadoso”.
Agregó que los sindicatos deberían comenzar a ver y utilizar los datos como una herramienta de negociación, y que deberían presionar para tener acceso a los mismos datos que tienen los empleadores. “Si lo recoge, es en los términos que lo tenemos también”, dijo Allen.
Pakes concluyó que la clave es que los sindicatos se organicen en torno a cuestiones tecnológicas en el lugar de trabajo, ya que la base actual de la regulación se basa en la “competencia de mercado neoliberal” y, por lo tanto, no sorprende que los reguladores del Reino Unido “generalmente no defienden a los trabajadores, apenas defienden a los consumidores”. “No solo necesitamos reguladores”, dijo. “Necesitamos reguladores que nos reconozcan, escuchen y representen. Si simplemente creamos más reguladores basados en el mercado, y eso es lo que creo que algunas personas quieren, fracasaremos en nuestra tarea”.