Las formas en que la inteligencia artificial (IA) impactará en nuestras vidas están siendo determinadas por gobiernos y corporaciones, con poca participación de la gente común, dice el experto en IA Dan McQuillan, quien pide cambios sociales para resolver esta dinámica de poder desigual y, a su vez, remodelar cómo se aborda la tecnología en primer lugar.
Profesor de informática creativa y social en Goldsmiths, Universidad de Londres, y autor de Resistiendo a la IA: un enfoque antifascista de la inteligencia artificialDan McQuillan argumenta que el funcionamiento de la IA no representa un conjunto de problemas particularmente nuevo o novedoso, sino que es simplemente la última manifestación de la estructura organizativa rígidamente jerárquica de la sociedad capitalista.
“Parte de mi intento de analizar la IA es como una especie de continuidad radical. Claramente [imposition of AI from above] no es en sí mismo un problema particularmente original. Prácticamente todo lo demás sobre nuestras vidas también se impone de una manera de arriba hacia abajo, no participativa”, dice.
“Lo que nos prepara para esa imposición es nuestra apertura a la idea misma de una visión de arriba hacia abajo… que hay una visión monocular singular que entiende cómo son las cosas y está en una posición superior para decidir qué hacer al respecto”.
Sin embargo, dada la naturaleza sociotécnica de la IA, en la que los componentes técnicos se basan en procesos sociales y viceversa, McQuillan destaca la necesidad de un cambio social para detener su imposición desde arriba.
Ese cambio social, argumenta, debe estar informado por una política prefigurativa; refiriéndose a la idea de que los medios no pueden separarse de los fines, y que cualquier acción que se tome para efectuar el cambio debe, por lo tanto, estar en línea con los objetivos previstos y no reproducir estructuras o problemas sociales existentes.
En una conversación anterior con Computer Weekly sobre la naturaleza superficial de los compromisos éticos del sector tecnológico, McQuillan señaló que la capacidad de la IA para categorizar a las personas y asignar culpas, todo sobre la base de datos históricamente sesgados que enfatizan la correlación en lugar de cualquier forma de causalidad, significa que la la tecnología a menudo opera de una manera sorprendentemente similar a la política del populismo de extrema derecha: “No digo que la IA sea fascista, pero esta tecnología se presta a ese tipo de soluciones”.
Además, sostiene en su libro que la IA también se basa en la lógica de la austeridad (describiendo la IA en Computer Weekly como un “modo de asignación” que presenta “formas estadísticamente refinadas de dividir un pastel cada vez más pequeño”) y la “necropolítica” ( el uso de varias formas de poder, ahora integradas en la operación de algoritmos, para dictar cómo vive y muere la gente).
“La IA decide qué entra y qué sale, quién recibe y quién no, quién es un riesgo y quién no es un riesgo. Independientemente de lo que se aplique, así es como funciona la IA: traza límites de decisión y lo que cae dentro y fuera de tipos particulares de clasificación o identificación”.
Dan McQuillan, Goldsmiths, Universidad de Londres
“La IA decide qué entra y qué sale, quién recibe y quién no, quién es un riesgo y quién no”, dice. “Sea lo que sea que se aplique, así es como funciona la IA: traza límites de decisión y lo que cae dentro y fuera de tipos particulares de clasificación o identificación.
“Porque toma estas correlaciones potencialmente muy superficiales o distantes, porque las datifica y cuantifica, se trata como real, incluso si no lo son”.
Prefigurando el futuro
En Resistencia a la IAMcQuillan argumenta que es fundamentalmente una tecnología política, y debería ser tratada como una “tecnología emergente de control que podría terminar siendo desplegada” por regímenes fascistas o autoritarios.
“Las operaciones concretas de la IA están completamente enredadas con la matriz social que las rodea, y el libro argumenta que las consecuencias son políticamente reaccionarias”, escribe en la introducción. “El efecto neto de la IA aplicada… es amplificar las desigualdades e injusticias existentes, profundizando las divisiones existentes en el camino hacia el autoritarismo algorítmico completo”.
McQuillan agrega que la operación actual de la IA y su imposición desde arriba es, por lo tanto, “absolutamente contigua a la forma en que la sociedad está organizada en este momento” y que, en última instancia, su poder proviene de personas que ya están preparadas para aceptar una “visión única de arriba hacia abajo”.
Para McQuillan, cuando se desarrollan sistemas sociotécnicos como la IA, es fundamental tener en cuenta los medios y los fines, “para que lo que hagas sea coherente con el lugar al que intentas llegar… por eso, básicamente, descartaría la IA tal como la conocemos actualmente. porque simplemente no veo que mejore [under our current social arrangements].”
Destacando las continuidades históricas y las conexiones entre el fascismo y el liberalismo: los nazis, por ejemplo, se inspiraron en las leyes segregacionistas Jim Crow de los EE. medios – McQuillan cuestiona la noción popular de que las democracias liberales son un baluarte eficaz contra el fascismo.
Agrega que existe una verdadera falta de comprensión sobre el papel de los “ciudadanos regulares” en el fascismo de principios del siglo XX, y cómo las estructuras políticas liberales tienden a prefigurar las fascistas.
“No sucede porque aparezcan las SS, son solo una especie de elemento de nicho de sociópatas completos, por supuesto, pero siempre son de nicho: el peligro real es la forma en que las personas que se entienden a sí mismas como ciudadanos responsables. , e incluso las buenas personas, pueden terminar haciendo estas cosas o permitiendo que sucedan”, dijo.
Al relacionar esto directamente con el desarrollo y despliegue de la IA como un sistema sociotécnico, McQuillan señala además que la propia IA, prefigurada por los imperativos políticos y económicos del liberalismo, es igualmente propensa a la lógica del fascismo.
“Una de las razones por las que desprecio tanto esta idea… que ‘lo que realmente necesitamos es un buen gobierno porque eso es lo único que tiene el poder de resolver este asunto de la IA’ es por la continuidad entre las formas de gobierno que tenemos, y las formas de gobierno que creo que vienen que son claramente más fascistas”, dice.
Agrega que las posibilidades de que la regulación estatal controle los peores abusos de la IA son, por lo tanto, escasas, especialmente en el contexto de las continuidades históricas entre el liberalismo y el fascismo que permitieron que este último se arraigara.
“El efecto neto de la IA aplicada… es amplificar las desigualdades e injusticias existentes, profundizando las divisiones existentes en el camino hacia el autoritarismo algorítmico total”
Dan McQuillan, Goldsmiths, Universidad de Londres
“Sean cuales sean los arreglos técnico-sociales prefigurativos que se nos ocurran, deben ser explícitamente antifascistas, en el sentido de que intentan inmunizar explícitamente las relaciones sociales contra el riesgo siempre presente de que las cosas se muevan en esa dirección… no necesariamente solo la oposición explícita a fascismo cuando llega, ¡porque para entonces ya es demasiado tarde!”.
Hacia visiones alternativas
Basándose en la idea de Mark Fisher del “realismo capitalista” (la concepción de que el capitalismo es el único sistema político y económico viable y que, por lo tanto, no hay alternativas posibles), McQuillan postula que la IA está comenzando a verse de manera similar, en el sentido de que la IA predijo el dominio se acepta cada vez más como algo inevitable, y no hay intentos de cuestionar seriamente su uso.
Citando un artículo de diciembre de 2022 de la socióloga Barbara Prainsack, titulado Las raíces del olvido: Hacia una sociología de la no-imaginaciónMcQuillan señala además cómo nuestras ideas sobre el futuro a menudo están moldeadas por nuestras imaginaciones presentes de lo que es posible, lo que también tiene un efecto prefigurativo importante.
“Nuestra imaginación del futuro se basa en líneas ferroviarias que ya están establecidas para nosotros”, dice, y agrega que esto tiene el efecto de limitar las visiones alternativas y más positivas del futuro, especialmente en los países ricos donde los gobiernos y las corporaciones están a la vanguardia. impulsando las tecnologías de IA.
“Es muy difícil ver movimientos dinámicos para futuros alternativos en el norte global. Están por ahí, pero están en diferentes lugares del mundo. En algún lugar como Rojava [in Northern Syria]o con los zapatistas [in Chiapas, Mexico] y creo que muchos lugares de América Latina tienen visiones alternativas sobre lo que es posible; nosotros no, en general.
McQuillan dice que esta falta general de visiones alternativas también se refleja y prefigura en las “narrativas de ciencia ficción con las que todos hemos sido suavizados”, citando el nihilismo fatalista del género cyberpunk como ejemplo.
“Cyberpunk es una extrapolación de la tecnología en las relaciones sociales que ya tenemos, por lo que no sorprende que termine siendo bastante distópico”, dice, y agrega que si bien el subgénero de la ciencia ficción es más realista que otros, en el sentido de que es un “la extrapolación de las relaciones que realmente tenemos y no de lo que la gente piensa que tenemos, como una democracia en funcionamiento”: existe una necesidad imperiosa de visiones más positivas para establecer nuevas vías.
Señalando el naciente género “solarpunk”, que rechaza específicamente el pesimismo distópico del cyberpunk al representar futuros sostenibles basados en enfoques colectivistas y ecológicos de la organización social y la tecnología, McQuillan dice que ofrece “una energía punk positiva” que prioriza la resolución de problemas de bricolaje.
Él dice que también usa la tecnología de tal manera que está “muy subsumida” a un conjunto más amplio de valores sociales positivos.
“Uno de los impulsores de solarpunk, que leí de todos modos, es que tiene una ontología fundamentalmente relacional; en otras palabras, que todos dependemos unos de otros, que todos estamos relacionados [and interconnected] entre sí y con seres no humanos”, dice, y agrega que “es muy similar a la mayoría de las cosmovisiones indígenas”, que ven el medio ambiente y la naturaleza como algo que debe ser respetado y relacionado, en lugar de dominado y controlado.
En línea con esto, y en contraste con lo que él llama la “ciencia reaccionaria” de la IA, según la cual “todo es reducible, mapeable y, por lo tanto, controlable”, McQuillan apunta a la cibernética de Stafford Beer como un camino potencial y práctico a seguir.
Debido a que enfatiza la necesidad de autonomía y dinamismo al mismo tiempo que reconoce la complejidad involucrada en muchas áreas de la vida humana (abrazando así la idea de que no todo se puede conocer), McQuillan sugiere que la adopción de la cibernética Beeriana podría prefigurar una serie de alternativas sociales y tecnológicas.
“La otra cosa que me llama la atención sobre la cibernética es que no se trata de un tipo específico de tecnología, se trata más de flujos organizacionales, si se quiere, que pueden ser no computacionales y computacionales”, dice. “Es esa idea de montar un poco la ola, pero tener diferentes niveles en los que necesitas hacer eso”.
Y agrega: “Tienes que lidiar con las cosas locales, si no te ocupas de eso, nada importa, pero entonces eso no funciona por sí solo: tienes que tener coordinación de áreas más grandes, recursos naturales, lo que sea”. , así anida su coordinación.”
En algún lugar entre los luditas y el Plan Lucas
Aunque el término ludita se usa hoy en día como abreviatura de alguien que desconfía o critica las nuevas tecnologías sin una buena razón, los orígenes históricos del término son muy diferentes.
Si bien el sabotaje en el lugar de trabajo ocurrió esporádicamente a lo largo de la historia inglesa durante varias disputas entre trabajadores y propietarios, los luditas (compuestos por tejedores y trabajadores textiles) representaron un enfoque sistémico y organizado para romper máquinas, lo que comenzaron a hacer en 1811 en respuesta a la imposición unilateral de nuevas leyes. (telares mecanizados y bastidores de tejer) por una nueva y creciente clase de industriales.
Por lo tanto, el ludismo se trataba específicamente de proteger los trabajos, salarios y condiciones de los trabajadores de los impactos negativos de la mecanización.
“La forma de abordar los problemas de la IA es hacer cosas que la IA no hace, por lo que se trata de colectivizar las cosas, en lugar de individualizarlas hasta el nivel molecular, que es lo que le gusta hacer a la IA”
Dan McQuillan, Goldsmiths, Universidad de Londres
Avance rápido hasta enero de 1976, los trabajadores de Lucas Aerospace habían publicado el Plan Lucas en respuesta a los anuncios de la gerencia de que miles de puestos de trabajo en la fabricación estaban en riesgo debido a la reestructuración industrial, la competencia internacional y el cambio tecnológico.
El plan proponía que los propios trabajadores establecieran el control sobre la producción de la empresa, de modo que pudieran poner sus valiosas habilidades de ingeniería al servicio de…
