Desde Grecia hasta México, Kenia y Palestina, las fronteras de todo el mundo se han convertido en focos de experimentación tecnológica no regulada, donde se están desplegando ecosistemas enteros de tecnologías automatizadas de “gestión de la migración” para vigilar intensamente a las personas en movimiento con poca responsabilidad o supervisión. Y la red que han creado está teniendo un coste humano devastador.
En lugar de poder ejercer su derecho humano internacionalmente reconocido a migrar, la amplia gama de tecnologías de vigilancia ahora desplegadas contra las personas en movimiento, incluidos drones, cañones de sonido, perros robot, torres de vigilancia, análisis predictivos, recolección de datos biométricos y detectores de mentiras. , sensores de calor, campos de refugiados de alta tecnología y más, muchos de los cuales ahora han sido dotados de inteligencia artificial (IA), significa que se ven obligados a situaciones cada vez más desesperadas y que amenazan sus vidas.
Como resultado, regiones enteras de cruce fronterizo se han transformado en cementerios literales, mientras la gente recurre a quemarse las yemas de los dedos para evitar la vigilancia biométrica invasiva; esconderse en terrenos peligrosos para evadir las devoluciones o ser colocados en campos de refugiados en condiciones de vida espantosas; y vivir sin hogar porque algoritmos protegidos del escrutinio público les niegan el estatus migratorio en los países en los que han buscado seguridad.
En su libro, Las paredes tienen ojos: sobrevivir a la migración en la era de la inteligencia artificialla abogada refugiada Petra Molnar documenta y se centra en innumerables historias de primera mano de personas que enfrentan miedo, violencia, tortura y muerte a manos de las autoridades fronterizas estatales.
“Las fronteras son reales y artificiales. Son lo que la historiadora Sheila McManus llama una ‘acumulación de ideas terribles’, creadas a través del colonialismo, las fantasías imperiales, el apartheid y la práctica diaria de la exclusión”, escribe Molnar. “las paredes tienen ojos ofrece una historia global sobre la agudización de las fronteras a través de experimentos tecnológicos, al tiempo que introduce estrategias de unión a través de fronteras físicas e ideológicas.
“Es una invitación a ser testigos de realidades violentas e imaginar simultáneamente un mundo diferente, porque un mundo nuevo es posible y ‘la esperanza es una disciplina’. Podemos cambiar la forma en que pensamos sobre las zonas fronterizas y las personas que están atrapadas en sus límites más agudos”.
En declaraciones a Computer Weekly, Molnar describe cómo las situaciones fronterizas letales son posibles gracias a una combinación de políticas antiinmigrantes cada vez más hostiles y tecnologías de vigilancia sofisticadas, que se combinan para crear un ciclo de retroalimentación mortal para quienes simplemente buscan una vida mejor.
También analiza la naturaleza “intrínsecamente racista y discriminatoria” de las fronteras, y cómo las tecnologías desplegadas en los espacios fronterizos son extremadamente difíciles, si no imposibles, de separar de la lógica subyacente de exclusión que las define.
‘Somos negros y los guardias fronterizos nos odian. Sus computadoras también nos odian’
Para Molnar, la tecnología ofrece una ventana a cómo opera el poder en la sociedad y qué prioridades tienen prioridad.
“Gran parte de la tecnología podría usarse para otros fines”, dice Molnar, señalando cómo los drones podrían usarse para rescate marítimo, mientras que la IA podría usarse para auditar decisiones de inmigración o ayudar a identificar a guardias fronterizos racistas.
“En cambio, siempre se utiliza como arma y se posiciona como una herramienta para oprimir a un grupo de personas ya marginado. Gran parte de esto tiene que ver con esta lógica más amplia de lo que se supone que debe hacer el sistema de control migratorio: impedir que las personas no deseadas o “otras”, o vistas como una amenaza o un fraude, y mantenerlas alejadas tanto como sea posible. posible y también para disuadir a la gente de venir”.
En derecho penal, eres inocente hasta que se demuestre lo contrario. Pero no eres un refugiado a menos que se demuestre lo contrario.
Petra Molnar, abogada de derechos humanos y autora
Dada la naturaleza sociotécnica de la tecnología -por la cual los componentes técnicos de un sistema determinado están informados por procesos sociales y viceversa- Molnar dice que la conceptualización de las fronteras como un baluarte contra “el otro” afecta la forma en que se desarrolla la tecnología para su uso en los espacios fronterizos. .
Esta dinámica se resume en una cita que Molnar utiliza en el libro de Addisu, una persona en movimiento, originaria de Etiopía, que ha estado intentando llegar al Reino Unido desde que llegó a Europa hace dos años: “Somos negros y los guardias fronterizos odiarnos. Sus computadoras también nos odian”.
En esencia, el impulso excluyente de las fronteras significa que, en última instancia, la migración se presenta como un problema: “Se ve como algo que hay que resolver, y ahora tenemos tecnología para resolver el problema”.
Molnar añade que enmarcar la migración como un problema significa que los Estados pueden entonces suspender sus derechos porque son vistos como amenazas o fraudes, y no son considerados refugiados hasta que se demuestre lo contrario.
“Si nos fijamos en el derecho penal, al menos en la mayoría de las jurisdicciones, eres inocente hasta que se demuestre lo contrario. Pero no eres un refugiado a menos que se demuestre lo contrario. Lo llamamos principio de responsabilidad inversa, según el cual corresponde a la persona demostrar que está diciendo la verdad y que tiene un derecho legítimo a la protección”.
Ella dice que si este es el punto de partida político, “donde se supone que nadie es bienvenido a menos que se demuestre lo contrario, y no tienes muchas leyes y estás obsesionado con la tecnología, se crea este ambiente perfecto para niveles realmente altos”. tecnología de riesgo con prácticamente cero responsabilidad”.
Reducido a un punto de datos
Para Molnar, el uso de tecnologías de vigilancia para gestionar el movimiento de personas a través de las fronteras es inherentemente deshumanizante. “Eso es algo que vi como una tendencia en muchas de las conversaciones que tuve con personas en movimiento, que reflexionaban sobre ser reducidos a un punto de datos, o un escaneo ocular o una huella digital, y que ya se sentían más deshumanizados en un sistema que es preparado para verlos como infrahumanos”, dice.
Añade que automatizar o incluso simplemente aumentar la toma de decisiones relacionadas con la migración con algoritmos o IA también sirve para divorciar a las personas en movimiento de su humanidad a los ojos de quienes en última instancia toman las decisiones.
“En lugar de mirar a alguien a los ojos, están mirando la imagen de una persona o un dato que, nuevamente, está divorciado de la humanidad de una persona y de la complejidad de sus historias y casos legales”.
Debido a que los espacios fronterizos ya son tan opacos, discrecionales y caracterizados por enormes diferencias de poder entre los funcionarios fronterizos y las personas que cruzan, Molnar dice que el uso de diversas tecnologías sólo hace que sea más difícil introducir la rendición de cuentas y la responsabilidad, no sólo en términos de gobernanza, sino también en términos de nivel humano de cómo divorcia a las personas que perpetran la violencia también de su propia humanidad.
“Cuando la violencia ocurre allí como resultado de la tecnología, como resultado de la vigilancia, no es tan inmediata, y tal vez no la sientan tan visceralmente, ni siquiera los tomadores de decisiones que están allí. Esa negación de responsabilidad también es una práctica violenta”.
“La tecnología nos obliga a no sentarnos en la hermosa complejidad de lo que significa ser un ser humano, sino a ser categorizados como un punto de datos en estas categorías rígidas que no se corresponden con el desorden de la realidad humana”
Petra Molnar, abogada de derechos humanos y autora
Este efecto también se ve exacerbado por la IA, que tiene efectos particularmente insidiosos en contextos de gestión de fronteras migratorias debido a la forma en que ve a las personas en movimiento a través de la mirada de prejuicios del pasado, y esencialmente proyecta hacia el futuro las desigualdades, los sesgos y los desequilibrios de poder existentes, mientras tratar esas discrepancias como una verdad objetiva.
“En última instancia, se trata de encasillar a las personas y concretar su experiencia basándose en categorías realmente rígidas”, afirma. “La tecnología nos obliga a no sentarnos en la hermosa complejidad de lo que significa ser un ser humano, sino a ser categorizados como un punto de datos en estas categorías rígidas que no se corresponden con el desorden de la realidad humana”.
Al reducir a las personas a categorías y clasificaciones rígidas, Molnar dice que resulta más fácil tratarlas con un desprecio frío e informatizado.
Sin embargo, añade, si bien una lógica de disuasión está claramente integrada en el sistema fronterizo global, en la práctica, el uso de sistemas de vigilancia cada vez más sofisticados sólo sirve para empujar a las personas hacia rutas cada vez más peligrosas, en lugar de disuadirlas por completo.
“Eso se ve mucho con la infraestructura de vigilancia fronteriza que ha crecido alrededor del Mediterráneo y el Egeo, pero también en el corredor entre Estados Unidos y México. Dirán: ‘Si introducimos más vigilancia, entonces la gente dejará de venir’, pero eso no funciona”, afirma, y añade que las personas que ejercen su derecho de asilo, protegido internacionalmente, se ven obligadas a tomar rutas más peligrosas. para llegar a destinos seguros.
“Es por eso que se ve tanta gente ahogándose en el Mediterráneo o en el Mar Egeo, o por qué las muertes casi se triplican en la frontera entre Estados Unidos y México”.
Deshumanización ‘humana’
Molnar dice que si bien las tecnologías fronterizas tienen un efecto claramente deshumanizador sobre las personas en movimiento, las justificaciones oficiales para usar la tecnología giran en gran medida en torno a hacer que el proceso migratorio sea más humano.
“Los demócratas [in the US] Se han vuelto muy buenos en esto porque dicen: ‘Las fronteras inteligentes son más humanas, son mejores que el muro de Trump y que poner a los bebés en jaulas’. Pero luego, cuando empiezas a analizarlo, te das cuenta de que estas políticas también están perjudicando a la gente. Una vez más, el hecho de que casi se hayan triplicado las muertes en la frontera entre Estados Unidos y México desde la introducción del sistema de muro inteligente es bastante revelador”, dice, añadiendo que la tecnología a menudo funciona para ocultar el alcance y la gravedad de la violencia fronteriza, ocultándose bajo el disfraz de ser de alguna manera más humano: “Por eso es importante interrogar el poder de la tecnología”.
En muchos casos, el despliegue de tecnologías de vigilancia en contextos migratorios no sólo se postula como más humano, sino que se justifica explícitamente con el pretexto de brindar apoyo humanitario a los países subdesarrollados.
“Europa y Estados Unidos están tan implicados en el apoyo a regímenes que son muy problemáticos bajo la apariencia de apoyo humanitario. Pero muchas veces es para la externalización de fronteras, es para lograr que otros actores hagan el trabajo sucio por uno”, dice, y agrega que la Unión Europea (UE), por ejemplo, proporciona regularmente financiación y tecnología a varios paramilitares en el continente africano que están involucrados en el control de fronteras, así como en guardacostas y equipos de fuerzas fronterizas en países como Libia y Níger.
“Si la frontera se aleja cada vez más, será más fácil que la ‘Europa Fortaleza’ permanezca sin ser atacada”.
Molnar añade que este tipo de justificaciones humanitarias para aumentar los despliegues tecnológicos en las fronteras también están siendo impulsadas por el tercer sector y las organizaciones no gubernamentales.
Aunque las personas que trabajan en estas organizaciones suelen tener buenas intenciones, Molnar dice que organizaciones internacionales como las Naciones Unidas (ONU), Unicef o el Programa Mundial de Alimentos tienen un “enorme poder normativo” sobre la idea de que “más datos es mejor”, y están por lo tanto, una enorme fuerza impulsora detrás de la normalización de gran parte de la tecnología fronteriza que se utiliza actualmente.
“Los campos de refugiados en Kenia, como Dadaab y Kakuma, fueron algunos de los primeros lugares que tuvieron registro biométrico. Si nos fijamos en el Pacto Mundial sobre Migración, que es este gran documento internacional que se elaboró hace unos años, el primer punto es “más datos”. Eso es bastante revelador”, afirma.
“Cuando ves, por ejemplo, lo que hizo el Alto Comisionado de las Naciones Unidas para los Refugiados con los refugiados rohingya: recopilaron muchísimos datos y luego, sin darse cuenta, los compartieron con el gobierno de Myanmar, el mismo gobierno del que los refugiados están tratando de huir.
“¿Pero cómo sucedió eso? Creo que también debemos preguntarnos qué sucede en este ‘tercer espacio’ de actores internacionales, no sólo los Estados o el sector privado”.
Pantomima de vigilancia
En su libro, Molnar señala que si bien las diversas tecnologías de vigilancia y control desplegadas en las fronteras funcionan bien debido a su naturaleza difusa y omnipresente, a menudo ni siquiera tienen que ser tan efectivas para lograr los objetivos de las autoridades estatales, ya que “sus El espectro y el espectáculo cambian nuestro comportamiento, modifican nuestro pensamiento y contribuyen a una sensación general de malestar, de estar siempre observados”.
Al destacar sus visitas a la región de Evros, entre Grecia y Turquía, Molnar dice que no siempre está claro qué está haciendo la tecnología, especialmente cuando se trata de algunos de los más…
