El gobierno del Reino Unido firmó el primer tratado “legalmente vinculante” del mundo sobre inteligencia artificial (IA) y derechos humanos, que compromete a los estados a implementar salvaguardias contra diversas amenazas que plantea la tecnología.
Redactado por el Consejo de Europa (una organización internacional creada en 1949 para defender los derechos humanos en todo el continente), el tratado ha sido firmado ahora por Andorra, Georgia, Islandia, Noruega, la República de Moldavia y San Marino, además de Israel. , Estados Unidos y la Unión Europea (UE).
Titulado oficialmente el Convenio marco sobre inteligencia artificial y derechos humanos, democracia y estado de derechoel tratado describe una serie de principios que los estados deben cumplir durante todo el ciclo de vida de un sistema de IA, incluida la privacidad y la protección de datos; transparencia y supervisión; igualdad y no discriminación; innovación segura; y dignidad humana.
Para garantizar que estos principios estén protegidos, el tratado exige además que los países implementen medidas para evaluar y mitigar cualquier impacto potencialmente adverso de la IA, así como proporcionar recursos efectivos cuando se produzcan violaciones de derechos humanos como resultado de su operación.
“La inteligencia artificial tiene la capacidad de mejorar radicalmente la capacidad de respuesta y la eficacia de los servicios públicos y acelerar el crecimiento económico”, dijo la Lord Canciller y secretaria de Justicia, Shabana Mahmood.
“Sin embargo, no debemos dejar que la IA nos moldee: debemos moldearla. Esta convención es un paso importante para garantizar que estas nuevas tecnologías puedan aprovecharse sin erosionar nuestros valores más antiguos, como los derechos humanos y el estado de derecho”.
El secretario de Estado de Ciencia, Innovación y Tecnología, Peter Kyle, añadió que el tratado será clave para aprovechar el potencial de la IA para impulsar el crecimiento económico y transformar los servicios públicos: “Una vez que entre en vigor, mejorará aún más la protección de los derechos humanos, las normas y los derechos humanos”. de la ley y la democracia, fortaleciendo nuestro propio enfoque interno hacia la tecnología y al mismo tiempo promoviendo la causa global de una IA segura y responsable”.
Aunque el acuerdo se aplica a todo el uso de la IA relacionado con el sector público (incluso cuando las empresas privadas actúan en su nombre), el texto en sí no cubre explícitamente el uso de la tecnología por parte del sector privado y deja en manos de cada Estado determinar en qué medida las empresas deben cumplir con los requisitos y obligaciones establecidos.
El texto también incluye una excepción explícita para los intereses de seguridad nacional. “No se requerirá que una Parte aplique esta Convención a actividades dentro del ciclo de vida de los sistemas de inteligencia artificial relacionados con la protección de sus intereses de seguridad nacional, en el entendimiento de que dichas actividades se llevan a cabo de manera consistente con el derecho internacional aplicable”, dice. .
Si bien un estado miembro puede prohibir casos particulares de uso de IA cuando crea que es incompatible con los derechos humanos, el texto no detalla ninguna sanción particular por el incumplimiento de un gobierno.
Sin aplicación estricta
Los abogados de Bird&Bird, por ejemplo, señalaron que sólo existe un mecanismo de cumplimiento vago en forma de informes sobre las actividades realizadas para cumplir con los requisitos del tratado, “pero no existen criterios estrictos de aplicación y, por lo tanto, la efectividad y el impacto de la Convención sobre IA podrían ser limitados. .”
Sin embargo, contiene mecanismos de disputa para los gobiernos que no están de acuerdo con la interpretación o aplicación del marco, y permite a los países “denunciar” (es decir, excluirse) de la convención si notifican al secretario general del Consejo de Europa.
Nick Reiners, analista senior de geotecnología de Eurasia Group, dijo a Gzero Media que la naturaleza voluntaria del tratado significa que no es especialmente jurídicamente vinculante, a pesar de cómo lo facturan sus signatarios. Añadió que la excepción de seguridad nacional también diluye lo extenuante que es, señalando, por ejemplo, que no afectaría la forma en que Israel está desplegando IA en Gaza para seleccionar y atacar objetivos.
Añadió que la UE habrá firmado en un intento de “internacionalizar la Ley de IA”, para que las empresas y gobiernos fuera del continente se alineen con sus prioridades en materia de tecnología.
El tratado entrará en vigor tres meses después de que haya sido ratificado por al menos cinco signatarios, incluidos al menos tres miembros del Consejo de Europa, después de lo cual los gobiernos de todo el mundo podrán unirse al mismo.