Un organismo asesor de las Naciones Unidas (ONU) sobre inteligencia artificial (IA) insta a los gobiernos a colaborar en la creación de una “arquitectura distribuida y globalmente inclusiva” para regular el uso de la tecnología.
Creado formalmente en octubre de 2023 para analizar la gobernanza internacional de la tecnología, el Órgano Asesor de Alto Nivel sobre IA de la ONU ha publicado un informe que describe su plan para abordar los riesgos relacionados con la IA y cómo se puede compartir globalmente el potencial transformador de la tecnología.
“El imperativo de la gobernanza global, en particular, es irrefutable”, decía en el resumen ejecutivo. “Las materias primas de la IA, desde minerales críticos hasta datos de entrenamiento, se obtienen en todo el mundo. La IA de uso general, implementada a través de fronteras, genera múltiples aplicaciones a nivel mundial. El acelerado desarrollo de la IA concentra poder y riqueza a escala global, con implicaciones geopolíticas y geoeconómicas.
“Además, actualmente nadie comprende lo suficiente todo el funcionamiento interno de la IA como para controlar completamente sus resultados o predecir su evolución. Tampoco se responsabiliza a los tomadores de decisiones por el desarrollo, implementación o uso de sistemas que no comprenden. Mientras tanto, es probable que los efectos de contagio negativos y los impactos posteriores resultantes de tales decisiones sean globales”.
Añadió que si bien los gobiernos nacionales y las organizaciones regionales serán cruciales para controlar el uso de la IA, “la naturaleza misma de la tecnología en sí –transfronteriza en estructura y aplicación– requiere un enfoque global”.
Por lo tanto, el Órgano Asesor ha hecho una serie de recomendaciones para abordar las brechas actuales en los acuerdos de gobernanza de la IA y está “pidiendo a todos los gobiernos y partes interesadas” que fomenten el desarrollo y la protección de los derechos humanos.
Estas recomendaciones incluyen la creación de un panel científico internacional independiente sobre IA, que debería estar compuesto por diversos expertos multidisciplinarios en el campo que actúen a título personal y de forma voluntaria, y el lanzamiento de un diálogo político bianual intergubernamental y de múltiples partes interesadas sobre Gobernanza de la IA que podría tener lugar al margen de las reuniones existentes de la ONU.
Propuso además crear un “panel de estándares de IA” para desarrollar y mantener un registro de definiciones y estándares aplicables para evaluar los sistemas de IA; establecer un “fondo global para la IA para poner un piso a la división de la IA”, que debería ser administrado por una nueva estructura de gobernanza independiente; y desarrollar un marco global de datos de IA que instituya “mecanismos de intercambio y administración de datos que moldeen el mercado” para permitir “ecosistemas locales de IA florecientes a nivel mundial”.
Según Wendy Hall, profesora regular de informática en la Universidad de Southampton y única experta británica en el Órgano Asesor, los esfuerzos globales actuales para establecer la gobernanza de la IA son insuficientes.
“Ya estamos viendo el impacto de los avances de la IA en la salud, los controles energéticos, la producción de alimentos y la educación”, afirmó. “Se debe permitir que la inteligencia artificial se desarrolle por el bien de la humanidad, pero, sin gobernanza, tiene potencial para evolucionar de maneras que serían perjudiciales para la sociedad. Como mínimo, esperamos que este informe estimule conversaciones y debates significativos sobre la gobernanza global.
“Necesitamos desesperadamente un enfoque global que aborde los desafíos de la IA y garantice que beneficie a todos, no sólo a las pocas naciones que lideran su desarrollo”, dijo Hall.
Un proyecto de resolución de la ONU que promueve el uso de la IA en el desarrollo sostenible y la protección de los derechos humanos fue respaldado anteriormente por más de 120 estados miembros en abril de 2024.
Si bien su objetivo era “cerrar la inteligencia artificial y otras brechas digitales entre y dentro de los países” alentando a los estados miembros, el sector privado, la sociedad civil, las organizaciones de investigación y los medios de comunicación “a desarrollar y apoyar enfoques y marcos regulatorios y de gobernanza relacionados con la seguridad, sistemas de inteligencia artificial seguros y confiables”, la resolución liderada por Estados Unidos no era vinculante.
La gobernanza de la IA no es una conversación global
En enero de 2024, en el Foro Económico Mundial de Davos, el secretario general de la ONU, António Guterres, acusó a las empresas de tecnología y a los gobiernos de perseguir sus propios intereses estrechos en la IA “con un claro desprecio” por los derechos humanos, la privacidad y otras consecuencias sociales, comparando su desarrollo no regulado con los crecientes riesgos que plantea la crisis climática.
Además de llamar a las élites empresariales y políticas del mundo a frenar el desarrollo “desbocado” de la IA, Guterres también instó a reformar el sistema internacional establecido después de la Segunda Guerra Mundial para que se puedan tomar medidas efectivas ante los desafíos globales.
Al enfatizar las marcadas disparidades de poder en todo el sistema internacional como una barrera importante para el progreso tanto en IA como en cambio climático, Guterres señaló, por ejemplo, que muchos estados miembros estaban bajo dominio colonial cuando se creó la ONU y, por lo tanto, tienen un “peso mínimo”. en los debates que tienen lugar hoy.
En su informe, el Órgano Asesor de IA dijo que si bien no faltan documentos y diálogos centrados en la gobernanza de la IA (con cientos de guías, marcos y principios adoptados por gobiernos, empresas, consorcios y organizaciones internacionales en los últimos años), ninguno tiene un alcance verdaderamente global, lo que lleva a problemas de representación, coordinación e implementación.
Al señalar que “partes enteras del mundo han quedado fuera de las conversaciones internacionales sobre gobernanza de la IA”, el informe cita el hecho de que sólo siete países (Canadá, Francia, Alemania, Italia, Japón, el Reino Unido y los EE.UU.) son parte de todos los acuerdos. las iniciativas de gobernanza de IA ajenas a la ONU incluidas en el informe, mientras que 118 países (principalmente del Sur Global) no son parte de ninguna.
“La equidad exige que más voces desempeñen papeles significativos en las decisiones sobre cómo gobernar la tecnología que nos afecta”, dijo. “La concentración de la toma de decisiones en el sector de la tecnología de IA no puede justificarse; También debemos reconocer que históricamente muchas comunidades han sido completamente excluidas de las conversaciones sobre gobernanza de la IA que las afectan”.
Para garantizar una colaboración internacional más estrecha y equitativa en la gobernanza de la IA, el Órgano Asesor ha propuesto crear “una estructura ligera y ágil como expresión de un esfuerzo coherente: una oficina de IA en la Secretaría de las Naciones Unidas, cercana al Secretario General, que funcione como ‘pegamento’ para unir las iniciativas aquí propuestas de manera eficiente y sostenible”.