La era de la inteligencia artificial (IA) está cambiando el panorama de TI, pero con una crisis de diversidad en curso en el sector tecnológico, aún está por verse si el rápido desarrollo de estas tecnologías finalmente ayudará o dificultará nuestras vidas.
Hablando en el evento anual de diversidad en tecnología Computer Weekly y Harvey Nash, Bev White, directora ejecutiva de Nash Squared, la empresa matriz de Harvey Nash, destacó la importancia de crear activamente oportunidades para que los grupos subrepresentados se unan al sector tecnológico si queremos hacer de la industria un sector más lugar diverso.
Lamentando lo lento que está cambiando el dial en lo que respecta a la diversidad en la tecnología, White instó a los miembros del sector a ser proactivos para garantizar que la fuerza laboral tecnológica refleje a los usuarios de la tecnología.
“Depende de nosotros, de todos nosotros –no sólo de la comunidad de RR.HH., no sólo de los CIO, los CDO y los CEO– realizar un cambio. Depende de todos nosotros”, dijo.
“Cada vez que pensamos en contratar, promocionar o alentar a alguien a dar un paso al frente y representar a un departamento, debemos pensar en cómo lo estamos haciendo y darle a alguien la oportunidad de levantarse y brillar. Tenemos que hacer eso todos los días, en todo lo que hacemos, o nada cambiará”.
Con el rápido desarrollo de tecnologías como la inteligencia artificial (IA), la IA generativa (GenAI) y el aprendizaje automático, este sentimiento nunca ha sido más importante.
Un informe de Nash Squared encontró que el 75% de los trabajadores ya utilizan GenAI en su trabajo. A medida que esta cifra aumente, será cada vez más importante asegurarse de que las personas que desarrollan estas tecnologías reflejen a las personas que las utilizan.
Depende de nosotros, de todos nosotros (no sólo de la comunidad de RR.HH., no sólo de los CIO, los CDO y los CEO) realizar un cambio.
Bev White, Nash al cuadrado
Como señaló White, si los equipos que desarrollan estas herramientas no representan plenamente a quienes las utilizan, ¿cómo nos aseguramos de que cumplan su propósito?
Pero en lugar de intensificar el impulso a la diversidad, las empresas están reduciendo sus iniciativas de diversidad, equidad e inclusión (DEI) a medida que enfrentan recortes presupuestarios y temores de reacciones negativas por adoptar el enfoque equivocado.
Esto pinta un panorama sombrío para el futuro del desarrollo de la IA, donde los equipos desequilibrados y la falta de consideración hacia los usuarios ya han causado problemas.
Sólo porque puedas, no significa que debas
Si bien la adopción de la IA está aumentando rápidamente, el desarrollo de la tecnología de IA no es nada nuevo.
María Axente, jefa de políticas públicas y ética de IA en PwC, dijo que el desarrollo de la tecnología a menudo ha dependido de “porque podemos”, sin considerar “el impacto en los usuarios y quién debe participar en la conversación sobre el diseño”.
Su papel como especialista en ética tecnológica la lleva a considerar exactamente estas cuestiones: para qué servirá la tecnología, para quién es y quién debería participar en su construcción.
Explicó: “La ética de la IA es una disciplina que se ocupa de crear una visión de una buena vida con IA, independientemente de lo que signifique una buena vida con IA”.
Además de una historia de tecnología desarrollada con prejuicios, desde cinturones de seguridad hasta rastreadores de período, Axente destacó a las mujeres que luchan para que tecnologías como la IA sean éticas, útiles y justas.
Puede llevar mucho tiempo, esfuerzo y pruebas convencer a algunas de esas tecnologías en desarrollo de que lo que están creando tendrá un impacto directo en la vida de las personas y que, en algunos casos, este impacto será negativo sin contar con las mejores prácticas adecuadas. .
Axente dijo: “Hemos aprendido gradualmente que la tecnología está dañando tangiblemente a las personas”.
Hay varias formas en que el desarrollo de la IA y el aprendizaje automático se ha sesgado en contra de las mujeres y otros grupos subrepresentados. Beckie Taylor, cofundadora de Tech Returners, dio el ejemplo de una destacada empresa de tecnología que implementó un modelo de aprendizaje automático de inteligencia artificial para seleccionar a los solicitantes de empleo. Taylor explicó cómo el equipo de software predominantemente masculino que lo creó hizo que el software tuviera un sesgo contra las candidatas femeninas.
Aunque este problema se identificó y corrigió rápidamente, esto “demuestra la importancia de un ser humano en ese proceso”, dijo Taylor.
“Aunque se llama IA, está hecha por personas, construida por personas, implementada por personas, por lo que importa quiénes son esas personas y si aportan una amplia gama de experiencias y perspectivas a su trabajo”.
Ha habido otros casos en los que la IA ha sido entrenada con conjuntos de datos o desarrollada por equipos no diversos, lo que hace que el sesgo sea más probable, como que el diagnóstico basado en imágenes sea más preciso para pacientes blancos y que Apple Card supuestamente ofrezca a los hombres límites de crédito más altos que a las mujeres.
La IA está hecha por personas, construida por personas, implementada por personas, por lo que importa quiénes son esas personas y si aportan una amplia gama de experiencias y perspectivas a su trabajo.
Beckie Taylor, retornados tecnológicos
Axente, especialista en ética de la IA, dijo: “Se lo debemos a muchas grandes mujeres que han estado alzando la voz, a pesar de la reacción violenta que han recibido. Nos ayudan a comprender mejor cómo esta tecnología perpetúa estos daños existentes”.
Algunas de estas mujeres han sido “intimidadas”, “despedidas” e “ignoradas” durante su búsqueda para garantizar que el desarrollo de la IA beneficie a la mayoría y no a unos pocos, según Axente, quien dijo que ahora estamos en una mejor posición. comenzar a cambiar la mentalidad en torno al desarrollo y la adopción de tecnología, lejos de construirlas por el simple hecho de hacerlo y construirlas con un propósito.
Una forma obvia de garantizar que los algoritmos sean representativos de la población en general es atraer y retener más talento tecnológico de grupos subrepresentados, pero también asegurarse de que aquellos que “dan forma al futuro de la humanidad con IA” reflejen la mayor población de usuarios que eventualmente se verán obligados a hacerlo. integrar la IA en su vida cotidiana: la “IA centrada en la persona” debería ser el foco del futuro.
Axente dijo: “Si queremos que la IA funcione para nosotros como individuos y como colectivo, la colaboración, no la competencia, es el camino a seguir”.
trabajando juntos
Si bien hay alrededor de un 5% más de mujeres que utilizan tecnología de inteligencia artificial que hace 10 años, hay un 10% menos de mujeres trabajando en tecnología que en 1984, según Jasmin Guthmann, covicepresidenta de la Alianza MACH.
Este desequilibrio entre el número de mujeres que utilizan la IA y el número de mujeres que la desarrollan está contribuyendo al sesgo de la IA y a una tecnología que no es adecuada para todos sus usuarios, hasta tal punto que el gobierno esbozó planes en su reciente informe. Plan de acción sobre oportunidades de IA aumentar la diversidad del grupo de talentos de inteligencia artificial y ciencia de datos en el Reino Unido.
Pero Guthmann dijo que actualmente las mujeres están “tratando de resolverlo todo por sí mismas, y eso no va a ser suficiente”.
La diversidad de la fuerza laboral tecnológica ha estado estancada durante algún tiempo. El 2024 Informe de diversidad de BCS, The Chartered Institute for IT, afirmó que si las tendencias actuales continúan, se necesitarán otros 283 años para que el porcentaje de mujeres que trabajan en el sector tecnológico del Reino Unido iguale el 48% de mujeres que hay en la fuerza laboral en general.
Pero como señaló Guthmann: “Si intento cambiarlo yo solo, no llegaré a ninguna parte”.
Cambiar el dial a un ritmo más razonable requerirá un esfuerzo colectivo, lo que, según Guthmann, es una de las razones por las que no quería que la rama de MACH, Women in MACH, fuera exclusivamente para mujeres. “Tenía que haber hombres en la sala”, dijo. “Necesitamos a todos ustedes, fantásticos aliados en la sala, para ayudarnos a hacer que la conversación sea más amplia y a tener esa conversación en nuestro nombre cuando no estemos en la sala”.
Y hay muchos casos en los que las mujeres y otros grupos subrepresentados no están en la sala: sólo el 13% de los directores de TI en el Reino Unido son de origen negro, asiático y de minorías étnicas (BAME), y las mujeres representan sólo una cuarta parte de Puestos de CIO en empresas del FTSE 100 en 2023.
Todos debemos involucrarnos en todo lo que podamos, especialmente porque “las minorías y las mujeres subrepresentadas dudan más que otras a la hora de presentarse” para roles y oportunidades tecnológicas, dijo Guthmann.
Hizo algunas recomendaciones para que personas y aliados subrepresentados impulsen pequeños cambios que, cuando se combinen, supondrán un gran cambio. Estos incluyen presentar a las personas oportunidades, informar cuando hay paneles solo para hombres en los eventos, asegurarse de que se escuche la opinión de personas más tranquilas e invitar a aliados masculinos a mujeres en eventos tecnológicos.
“Su objetivo a partir de este día es ser esa voz que diga si existe una mejor manera de hacer esto”, dijo. “A la gente sólo le irá mejor si todos les hacemos responsables. ¿Cómo redefinimos el futuro de la tecnología? La innovación no ocurre en silencio, ocurre cuando rompemos fronteras juntos, así que hagamos una pequeña cosa hoy para hacer del mundo un lugar mejor mañana”.
Cuando ocurre el desastre
La colaboración puede ser una herramienta poderosa cuando se utiliza de la manera correcta.
Cuando el gobierno anunció planes a principios del año pasado para aumentar el umbral de ingresos para posibles inversores ángeles, Emma Wright, socia del bufete de abogados Harbottle & Lewis, movilizó a un gran grupo de mujeres en el sector tecnológico para revocar la ley.
HM Treasury planeó cambiar los criterios para lo que define a un “individuo de alto patrimonio neto”, lo que significa que una persona necesitaría un ingreso de al menos £170.000 en el año financiero anterior o activos netos de al menos £430.000 para invertir.
Con la nueva ley eliminando al 70% de las mujeres capaces de realizar inversiones ángeles, el cambio amenazó el número de empresas dirigidas por mujeres en el Reino Unido.
“Las fundadoras generan más ingresos que sus homólogos masculinos”, explicó Wright.
“Sólo el 1,7% de la financiación del capital de riesgo se destina a financiadoras femeninas, y las mujeres respaldan a otras mujeres más del doble que los hombres a las mujeres”.
La experiencia de Wright es muy adecuada para un desafío como este. Anteriormente dirigió el gobierno y el sector público como socia de Deloitte Legal, entiende cómo funciona el gobierno y, además de su papel como abogada de tecnología y datos, fue una de las fundadoras del Foro Interparlamentario para Tecnologías Emergentes (anteriormente el Foro Interparlamentario para Tecnologías Emergentes). Instituto de IA).
Wright lanzó la campaña investHER y publicó una carta abierta que pedía al gobierno que tomara una decisión sobre el próximo presupuesto. Muchas de las mujeres que firmaron la carta abierta estaban en la lista de Computer Weekly de las mujeres más influyentes en la tecnología del Reino Unido.
Como señaló Wright, cualquier tecnología que no se desarrolle teniendo en cuenta a todos “actúa como una barrera y no habilita”. Se trata de un peligroso precedente cuando se trata de tecnologías como la IA, que parece ser una parte muy importante del futuro de todos.
Si bien se desvió esta desigualdad particular, los esfuerzos de investHER solo lograron revertir la problemática ley, no aumentar el número potencial de mujeres inversionistas y patrocinadoras de nuevas empresas lideradas por mujeres.
Wright dijo: “A menos que todos desarrollemos soluciones tecnológicas, no podemos competir en un escenario global y no tendremos una IA inclusiva”.
Un claro ejemplo de cómo la adopción de tecnología puede tener un impacto negativo si nadie considera al usuario final es el escándalo de Correos.
La ex subdirectora de correos Jo Hamilton dijo en el evento de diversidad de Computer Weekly que no tuvo ningún problema para administrar su sucursal de la oficina de correos hasta que se introdujo el sistema Horizon.
Debido a que no sabía nada sobre computadoras, cuando ocurrieron errores en su contabilidad al final del día en el sistema, pensó que ella era la que cometía errores, lo que resultó en que la Oficina de Correos afirmara que les debía cada vez más dinero debido a supuestos desequilibrios. libros, a pesar de que la computadora tiene la culpa.
Lo mismo les sucedió a cientos de otros subdirectores de correos en todo el Reino Unido. El sistema llegó sin formación ni apoyo.
“Piense primero en nosotros, piense en las personas que no saben nada sobre tecnología y su uso. Éramos simplemente pequeños comerciantes”, dijo Hamilton.
Instó a quienes desarrollan tecnología a “considerar a las personas que van a utilizarla”. [tech] que no tienen habilidades tecnológicas”.
Incidentes como este, y los mencionados anteriormente, ocurrirán cada vez más si no se tiene cuidado para garantizar que diversos equipos desarrollen la IA y otras tecnologías con casos de uso éticos.
Pero esto, a su vez, sólo puede lograrse trabajando juntos: desde los educadores hasta los gobiernos, desde las organizaciones hasta los individuos.
Sin todos los involucrados en la configuración de nuestro futuro…
