Los lores están divididos en sus opiniones sobre el enfoque del gobierno del Reino Unido hacia las armas autónomas: algunos abogan por un grado mucho mayor de precaución y otros piden menos moderación para adelantarse a los adversarios.
A principios de diciembre de 2023, un comité de los Lores instó al gobierno del Reino Unido a “proceder con precaución” al desplegar sistemas de armas autónomos (AWS) y otras capacidades militares impulsadas por inteligencia artificial (IA), después de descubrir que la promesa del gobierno de acercarse a la IA militar de forma “ambiciosa, segura y responsable” no ha estado a la altura de la realidad.
Las recomendaciones clave del Comité de IA en sistemas de armas incluyeron que el gobierno garantice el control humano en todas las etapas del ciclo de vida de un AWS; adoptar una definición operativa e independiente de la tecnología de AWS para que se puedan tomar decisiones políticas significativas; y diseñar adecuadamente procesos de adquisiciones para un mundo impulsado por la IA, de modo que exista una responsabilidad adecuada. También recomendó una prohibición total de la IA en el mando y control nuclear.
En respuesta a las conclusiones de ese comité a finales de marzo de 2024, el gobierno insistió en que ya está actuando de manera responsable y con la debida cautela, y que la prioridad del Ministerio de Defensa (MoD) con la IA es maximizar la capacidad militar frente a adversarios potenciales, que afirmó que “es poco probable que sean tan responsables”.
El gobierno añadió que, si bien acoge con satisfacción el “análisis exhaustivo y estimulante”, el mensaje general del comité de que se debe proceder con cautela ya “refleja el enfoque del Ministerio de Defensa respecto de la adopción de la IA”.
Durante un debate sobre las conclusiones del comité y la respuesta del gobierno celebrado el 19 de abril de 2024, Lords expresó opiniones contradictorias sobre el enfoque del Reino Unido con respecto a las armas autónomas. Mientras que algunos criticaron al gobierno por su renuencia a imponer límites al uso de AWS, por ejemplo, otros dijeron que una precaución excesiva inhibiría el progreso y dejaría al Reino Unido detrás de sus oponentes geopolíticos.
El gobierno, sin embargo, sostiene que el uso de armas autónomas ya se rige por el derecho internacional humanitario (DIH), por lo que no es necesario establecer una definición operativa ni comprometerse con ningún instrumento legal internacional que controle su uso.
El Reglamento es “un regalo para nuestros adversarios”
Al profundizar en la posición del gobierno durante el debate de los Lores, el Ministro de Estado de Defensa, el Conde de Minto, dijo que establecer una definición operativa para AWS o crear nuevos instrumentos internacionales para controlar su uso sólo beneficiaría a los enemigos del Reino Unido.
“Estos sistemas ya se rigen por el derecho internacional humanitario, por lo que, lamentablemente, definirlos no fortalecerá su uso legal. De hecho, es previsible que, en las negociaciones internacionales, aquellos que deliberadamente ignoran el derecho y las normas internacionales puedan utilizar una definición para limitar las capacidades y la investigación legítima de las naciones responsables”, dijo.
“También es por esa razón que, después de una consideración sincera y profunda, no apoyamos el llamado del comité para un rápido acuerdo sobre un instrumento internacional eficaz sobre sistemas de armas letales autónomos; eso sería un regalo para nuestros adversarios”.
Minto añadió que, en lugar de depender de una definición o un documento, la salvaguardia clave sobre la IA militar es garantizar la participación humana durante todo el ciclo de vida de un sistema determinado. En consonancia con esto, también aclaró que el gobierno no tiene intención de crear armas totalmente autónomas ni de ceder el “control político” de las capacidades nucleares del Reino Unido a la IA.
“El Ministerio de Defensa británico siempre tendrá una participación humana apropiada al contexto y, por lo tanto, un control humano, una responsabilidad y una rendición de cuentas significativos”, dijo. “Sabemos, sin embargo, que otras naciones no han asumido compromisos similares y pueden intentar utilizar estas nuevas tecnologías de manera irresponsable”.
Como tal, añadió además que el Reino Unido trabajará con sus aliados para establecer estándares para una IA militar responsable, que según él se basará en el DIH, al mismo tiempo que trabajará para identificar y atribuir usos militares peligrosos de la tecnología para ayudar a mantener a las “partes irresponsables en el poder”. cuenta”.
A pesar de que no hay apoyo en el gobierno ni para una definición ni para un instrumento legal, Minto dijo que el Reino Unido continuará participando en diálogos internacionales sobre la regulación de las armas autónomas, en particular el grupo de expertos gubernamentales de las Naciones Unidas (ONU) que trabajan bajo el alcance de la Convención. sobre ciertas armas convencionales.
Los señores reaccionan
Durante el debate, Lords expresó opiniones encontradas sobre la posición del gobierno y su respuesta al comité.
El presidente del comité, Lord Lisvane, por ejemplo, dijo que el objetivo del gobierno de crear una IA militar “ambiciosa, segura y responsable” ahora debe traducirse en una implementación práctica, y fue particularmente crítico con la decisión de no adoptar una definición operativa de AWS.
“Escucho lo que dice el gobierno, pero no estoy convencido. Creo que es posible crear una definición preparada para el futuro”, afirmó. “Hacerlo ayudaría a la capacidad del Reino Unido de formular políticas significativas sobre armas autónomas y participar plenamente en debates en foros internacionales. Nos convertiría en un jugador más eficaz e influyente”.
También dijo que el gobierno debería predicar con el ejemplo en los debates internacionales sobre la regulación de AWS, señalando que ya sea que el resultado sea un tratado jurídicamente vinculante o medidas más informales que aclaren cómo se debe aplicar el DIH, el acuerdo de “un instrumento internacional eficaz debe ser un alta prioridad”.
Lisvane añadió que si bien el gobierno aceptó una serie de recomendaciones del comité –incluidas las relativas a la importancia de la responsabilidad parlamentaria, el control humano sobre el mando nuclear y la mejora de las prácticas de adquisición del Ministerio de Defensa en materia de software y datos–, su respuesta proporciona pocos o ningún detalle sobre cómo se cumplen estos puntos. se logrará.
“En general, la respuesta del gobierno a nuestro informe fue ‘de intención constructiva’. Espero que no parezca demasiado reticente”, dijo. “Han reconocido claramente el papel de la IA responsable en nuestra futura capacidad de defensa, pero deben incorporar principios éticos y legales en todas las etapas de diseño, desarrollo y despliegue. La tecnología debe usarse cuando sea ventajosa, pero no a un costo inaceptable para los principios morales del Reino Unido”.
Lord Clement-Jones, que formó parte del comité después de haber impulsado su creación, añadió de manera similar que a pesar del consenso casi global sobre la necesidad de regular AWS, el gobierno del Reino Unido aún no ha respaldado oficialmente ninguna limitación a su uso más allá de una serie de compromisos vagos en torno a la supervisión humana y las líneas rojas éticas.
Al destacar el uso de sistemas de inteligencia artificial para designar objetivos en Gaza, así como el uso de drones autónomos en Libia, Siria y Ucrania, Clement-Jones dijo que esto mostraba la urgencia de la necesidad de regular AWS, que añadió que debería comenzar con al menos una definición de trabajo.
“La inconsistencia en cómo definimos y entendemos AWS tiene implicaciones significativas para el desarrollo y la gobernanza de estas tecnologías. Sin embargo, el comité demostró que es posible una definición funcional, distinguiendo entre sistemas total y parcialmente autónomos. Es evidente que el gobierno todavía se resiste a esto, como lo ha demostrado su respuesta”.
Lord Browne, que también formó parte del comité, dijo que la explicación del gobierno sobre por qué una definición de AWS es innecesaria “es claramente insuficiente”, y agregó: “¿Cómo podemos buscar activamente involucrarnos en las políticas para regular AWS si no podemos encontrar ni siquiera palabras provisionales?” ¿Con qué definirlo? Es como intentar hacer un traje para un hombre cuyas medidas están envueltas en secreto y cuya existencia misma es simplemente un rumor”.
Añadió que si bien se trata de un tema complejo, “la complejidad no debería ser un refugio sino un reproche” a la hora de formular buenas políticas. “Es trabajo de los gobiernos de cualquier tendencia política ser capaces de articular su enfoque y hacer que expertos y voces disidentes lo pongan a prueba”.
Sin embargo, otros Lores fueron menos críticos con la posición del gobierno y argumentaron, en cambio, que se necesita menos cautela y negatividad en torno a las posibles consecuencias de la IA militar.
Lord Houghton, que formó parte del comité pero destacó que hablaba a título personal durante el debate, dijo, por ejemplo, que si bien los requisitos de cualquier regulación “sin duda nos limitarán de manera que evidentemente no molestarán a muchos de nuestros enemigos potenciales”, Las ventajas estratégicas que se pueden derivar de AWS son tan grandes que “seríamos locos si no buscáramos formas de explotarlo”.
También pidió garantías por parte del gobierno de que “no permitirá que una precaución indebida inhiba el progreso” y apuntó a la negatividad expresada hacia los riesgos de la IA militar, y AWS en particular, durante la investigación del comité.
“La negatividad no estaba entre los miembros del comité sino más bien entre muchos de nuestros testigos expertos, algunos de los cuales eran traficantes de fatalidades técnicas, mientras que otros parecían ganarse la vida convirtiendo lo que en última instancia es un problema práctico de gestión del campo de batalla en un desafío ético de Complejidad gordiana”, dijo.
Hablando sobre la IA en el contexto de la marina, Lord Stevens argumentó que se necesitarán sistemas habilitados para IA como un multiplicador de fuerza eficaz, y que se necesita precaución para garantizar que la regulación de AWS no sea demasiado restrictiva.
“El Parlamento estaría cometiendo un error de categoría si intentáramos regular la IA como una categoría discreta de sistema de armas, cuando en realidad es un espectro de tecnologías de propósito general en rápida evolución”, dijo.
“Los sistemas de IA ofrecen claramente enormes beneficios potenciales en el entorno marítimo. El Parlamento puede y debe ayudar a nuestra nación a capitalizarlos… la señal que debemos enviar a la Royal Navy debería ser: continuar avanzando con rapidez”.
Lord Hamilton señaló de manera similar que el Reino Unido quedaría en “una grave desventaja si nuestros enemigos adoptan la IA con entusiasmo y nosotros no”.
Añadió que es “extremadamente importante” que las fuerzas armadas del Reino Unido adopten la IA, de modo que pueda utilizarse para “salvar las vidas de nuestras tropas y mejorar nuestras posibilidades de ganar guerras”.