Marc Francis pasó los últimos años de su vida gobernado por un planificador de rutas fallido. Una y otra vez, al conductor que hasta hace poco entregaba para Parcelforce se le pedía que siguiera rutas cada vez más difíciles o se le asignaban rutas inviables en sus turnos.
Y cuando el sistema fallaba, no lograba mostrar una dirección o creaba una ruta que significaba que perdía el breve período de tiempo que tenía para realizar la entrega, cualquier incumplimiento en la entrega se descontaría de su propio salario como contratista independiente. Otros errores (afirmó que el sistema estaba “plagado de fallas”) significaron que su sistema de pago automatizado le reduciría incorrectamente el salario.
Francis, que ahora es uno de los principales demandantes en un caso al estilo Uber contra la clasificación de Parcelforce de sus conductores como autónomos, dijo a Computer Weekly en febrero que el uso de la automatización por parte de la empresa había garantizado, en todo caso, que el trabajo ofreciera “la peor explotación”. en mi vida”.
Su experiencia es la norma del trabajo moderno para muchos trabajadores. Gran parte de la conversación sobre el uso de la gestión algorítmica, la automatización y la IA en el lugar de trabajo suele centrarse en la sustitución o la eficiencia del trabajo, desde artículos de opinión que pronostican si la IA o la automatización en general sustituirán los puestos de trabajo de las personas en el futuro hasta el potencial de la IA para aumentar la productividad. .
Pero a pesar de todos esos artículos centrados en el futuro, hay mucho menos discusión sobre los impactos reales que esta tecnología existente ya está teniendo en el terreno para, en gran medida, los trabajadores con salarios bajos.
En junio, un informe de la Asociación Global sobre Inteligencia Artificial (GPAI) intentó responder precisamente a eso. Al entrevistar a los gerentes y trabajadores de primera línea de Amazon, los investigadores pudieron concluir que el uso de vanguardia de la inteligencia artificial y la automatización en el lugar de trabajo por parte de la compañía ya había tenido enormes efectos en la fuerza laboral. En particular, había socavado los salarios y las condiciones al establecer objetivos imposibles de cumplir para el personal, había recopilado datos de los trabajadores sin su pleno conocimiento o consentimiento y había hecho que la fuerza laboral humana fuera más prescindible.
“En empresas como Amazon, los sistemas generan datos que se utilizan específicamente para establecer los objetivos de desempeño de las personas, generalmente recopilados a partir de elementos como los escáneres de los trabajadores mientras se mueven por el almacén”, explica Martha Dark, fundadora y directora de Foxglove, una organización legal sin fines de lucro que se especializa en representar a los trabajadores en disputas con gigantes tecnológicos. “Los objetivos que luego se les asignan incentivan tasas de trabajo extremadamente altas que a menudo son francamente imposibles de alcanzar o causan daños graves si las personas intentan alcanzar esos objetivos”.
Adrienne Williams, ex conductora de Amazon en EE. UU. y ahora investigadora en el Distributed AI Research Institute, dijo: “Cuando yo era conductora de Amazon, le decíamos a la gente nueva que redujera la velocidad porque se iban a arruinar en una semana. o dos.
“Si pude entregar, digamos, 300 paquetes en ocho horas el martes, entonces la expectativa era que entregaría 310 el miércoles y luego 315 el jueves. Y no hay una válvula de cierre que diga: ‘Esto es lo máximo’”.
Los objetivos que [workers] Luego se les dan incentivos para tasas de trabajo extremadamente altas que a menudo son francamente imposibles de cumplir o causan daños graves.
Martha Dark, Dedalera
Pero el informe de GPAI fue más allá de analizar los cambios materiales en el trabajo y examinó los cambios menos obvios en el lugar de trabajo. Más allá del efecto sobre los salarios y las condiciones, el uso de la IA en el lugar de trabajo, en particular la escala de procedimientos impuestos a los trabajadores y la escala de vigilancia utilizada, había eliminado la capacidad de acción de la fuerza laboral.
La presunta objetividad que conlleva la toma de decisiones automatizada también hace que sea casi imposible para los trabajadores cuestionar las decisiones que van en su contra, algo que Computer Weekly ha cubierto en el pasado.
Cuando trabajaba en Amazon, Williams y sus colegas no tenían forma de cuestionar o rectificar errores claros en los horarios de ruta, las demandas o los sistemas GPS utilizados por la empresa. A veces, rutas claramente inseguras para camiones no quedaban certificadas a pesar de innumerables quejas, ya que no había una manera clara de desafiar el sistema automatizado o contactar a aquellos con suficiente experiencia para cambiarlo.
Craig Gent, investigador, escritor y editor radicado en Leeds y autor de Cyberboss: El auge de la gestión algorítmica y la nueva lucha por el control en el trabajodice: “Una de las cosas que a las empresas que fabrican tecnologías algorítmicas les gusta vender es la objetividad de los datos y las decisiones que producen, que se supone que eliminan cualquier tipo de política o contestación en favor de algo agradable, Decisión simplificada basada en datos.
“En realidad, lo que sucede es que otorga una enorme cantidad de poder a los algoritmos y sus decisiones, de tal manera que quita completamente el poder a los trabajadores y tiene un efecto en los gerentes que no conocen mejor el funcionamiento interno de estos sistemas que otros. los trabajadores lo son”.
Lidiar con los daños de la IA
No hace falta ir muy lejos para encontrar una veintena de escándalos en torno a la toma de decisiones automatizada, desde conductores de Uber que son despedidos automáticamente mediante un software de identificación facial “racista” hasta software diseñado para detectar fraudes en materia de beneficios que privan erróneamente a las personas de su única fuente financiera. salvavidas, donde la capacidad del individuo afectado para impugnar la decisión es muy limitada, si no inexistente.
Esto se aplica incluso a algo mucho más simple desde el punto de vista tecnológico y más flagrantemente defectuoso, como el software Horizon utilizado por la Oficina de Correos, que llevó a una batalla de casi 20 años entre los subdirectores de correos afectados que intentaban convencer a los que estaban en el poder de que habían sido maltratado.
“Está saliendo sin que se hayan realizado las comprobaciones adecuadas para garantizar que el software funcione, funcione y no cause daño, sino que se está implementando demasiado pronto sin la debida preocupación por la salud y la seguridad de los trabajadores”, dice Dark.
Un informe en los EE. UU. encontró que las tasas de lesiones laborales para ciertos centros logísticos de Amazon en los EE. UU. eran tres veces el promedio del país para los almacenes.
Pero a pesar de eso, según varias de las personas con las que habló Computer Weekly, los últimos intentos del gobierno del Reino Unido por dominar esta tecnología, particularmente la IA, se han centrado en gran medida en la autorregulación industrial.
Desde mejorar la transparencia y la explicabilidad de los algoritmos de caja negra hasta las declaraciones de seguimiento de los trabajadores que permiten al personal y a los observadores saber qué software de vigilancia y productividad se está utilizando, qué datos se están recopilando y si se basa en la toma de decisiones automatizada, existen políticas que podrían ayudar a mejorar el impacto.
No es sólo el gobierno el que ha tenido dificultades para controlar la situación. Williams señala que los sindicatos han avanzado poco en la configuración de las formas reales en que se utilizan la IA y los algoritmos en estos lugares de trabajo.
Cita que, si bien los sindicatos en Estados Unidos han luchado contra el uso de cámaras en los camiones que monitorean a los repartidores, ha habido poco o ningún debate sobre el uso de cámaras orientadas al exterior en los camiones. Amazon, por ejemplo, utiliza cámaras internas y externas de Netradyne para monitorear a sus conductores y filmar sus rutas. Hyundai también invirtió recientemente en Netradyne. Los datos que recopila de su amplia gama de cámaras de tablero podrían usarse en futuros sistemas de conducción autónoma y asistencia al conductor, mediante la creación de mejores mapas digitales para que los utilicen esos sistemas.
“Yo los llamo entrenadores de zombies: alguien que entrena sus sistemas de inteligencia artificial sin saber que lo está haciendo”, dice Williams. “Estás haciendo un segundo trabajo oculto y no te das cuenta”.
Aplanamiento del trabajo humano
Ese uso potencial de conductores como recolectores de datos insinúa el hecho de que el futuro de gran parte de esta mano de obra mal remunerada podría estar en el trabajo básico de mantener y entrenar modelos computacionales de IA o IA.
“Los costos laborales son mucho más bajos en Filipinas y la India”, explica Carl-Benedikt Frey, profesor asociado de IA y trabajo en el Oxford Internet Institute. “Entonces, si la IA generativa reduce las diferencias de productividad entre las personas, les dará la oportunidad de aprovechar mano de obra barata en otros lugares”.
Es un proceso que ya ha comenzado a ocurrir para los “clickworkers”, un apodo para la enorme franja de trabajadores mal pagados –desde moderadores de contenido o entrenadores de vehículos autónomos hasta microtrabajadores que dedican su tiempo a responder encuestas– que entrenan los algoritmos y producen los datos que impulsa los sistemas de IA. Con frecuencia, esos trabajadores ganan menos que el salario mínimo (algunas empresas grandes pagan un promedio de 2 dólares la hora) o, a veces, se les paga con tarjetas de regalo en lugar de efectivo.
Estás haciendo un segundo trabajo oculto. [training AI systems]y no te das cuenta
Adrienne Williams, Instituto de Investigación de IA Distribuida
Y ese punto subraya algo mencionado una y otra vez por aquellos con quienes Computer Weekly habló para este artículo: que el impacto de la IA y la automatización en los lugares de trabajo tiene más que ver con cómo cambia y aplana el trabajo humano, en lugar de reemplazarlo; sobre cómo convierte a los propios trabajadores en robots en lugar de reemplazarlos por robots, como lo explicó un entrevistado.
“Se trata de optimizar el trabajo”, dice Gent. “Y eso, desde la perspectiva de los empleadores, significa reducir la incertidumbre que los trabajadores, por el hecho de ser humanos, introducen en lo que de otro modo podría ser un cálculo finamente calibrado sobre cómo ganar dinero”.
Computer Weekly se puso en contacto con Parcelforce para solicitar comentarios, pero no recibió ninguna respuesta oficial.
En respuesta al informe GPAI, un portavoz de Amazon dijo a Computer Weekly que la compañía tiene como objetivo crear los lugares de trabajo más seguros y tecnológicamente más avanzados del planeta, y que cualquier tecnología que diseñe tiene como objetivo crear un mejor ambiente de trabajo y aumentar sus capacidades. , en lugar de reemplazarlos.
“En nuestras operaciones de cumplimiento y logística, utilizamos software y hardware para automatizar las tareas más difíciles y repetitivas, reduciendo el estrés físico y mental de los empleados, y significa que tenemos un 50 % menos de lesiones que otras empresas minoristas y de logística en el Reino Unido”, afirman. dicho.
“El uso de robótica de última generación ha reducido el tiempo de recorrido en nuestros centros logísticos, ha aumentado la eficiencia operativa y, al mismo tiempo, ha creado la necesidad de empleos más calificados, como ingenieros, para operar y mantener los avances.
“Escuchamos los comentarios y sugerencias de nuestros empleados y actuamos regularmente sobre ellos, y nuestra política de puertas abiertas los alienta a presentar sus comentarios, preguntas e inquietudes, ya sea de forma directa o anónima”.
Sobre el uso de la tecnología para coordinar las rutas y las entregas de los conductores, el portavoz añadió que varios factores dan forma a su experiencia en la carretera para que su trabajo parezca realizable y gratificante.
“Amazon continúa invirtiendo en diseño de rutas y tecnología que tenga en cuenta con precisión las complejidades que enfrentan los conductores en la carretera, como el tipo de lugar de entrega, la distancia a pie, entrar y salir del vehículo, el tamaño y peso de los paquetes y los factores ambientales. como el clima”, dijeron. “La retroalimentación de los conductores es el núcleo de nuestra mentalidad de mejora continua a medida que construimos rutas seguras, simples y sostenibles”.
