La secretaria digital Michelle Donelan ha anunciado que el gobierno del Reino Unido proporcionará hasta 8,5 millones de libras esterlinas en subvenciones para la investigación de seguridad de la inteligencia artificial (IA), durante el segundo día de la Cumbre de Seúl sobre IA.
Si bien el programa de investigación general estará encabezado por el Instituto de Seguridad de la IA (AISI) del Reino Unido, que se estableció en el período previo a la Cumbre inaugural de Seguridad de la IA en Bletchley Park en noviembre de 2023, las subvenciones se otorgarán a investigadores que estudien cómo proteger mejor a la sociedad de los riesgos asociados con la IA, como los deepfakes y los ciberataques.
El gobierno dijo que también se otorgarán subvenciones para investigación a quienes estudien formas de aprovechar los beneficios de la IA para, por ejemplo, aumentar la productividad, y agregó que las propuestas más prometedoras se convertirán en proyectos a más largo plazo y podrían recibir más financiación en el futuro.
Implementado en asociación con Investigación e Innovación del Reino Unido (UKRI) y el Instituto Alan Turing, el programa AISI también tendrá como objetivo colaborar con otros institutos de seguridad de IA a nivel mundial, según el Declaración de intenciones de Seúl hacia la cooperación internacional en ciencia de seguridad de la IA firmado por 10 países y la Unión Europea (UE) el primer día de la cumbre de Corea del Sur.
El gobierno agregó que el programa de subvenciones también está diseñado para ampliar el mandato del AISI para incluir el campo de la “seguridad sistémica de la IA”, cuyo objetivo es comprender y mitigar los impactos de la IA a nivel social, así como descubrir cómo varias instituciones , los sistemas y la infraestructura pueden adaptarse a la tecnología.
Si bien los solicitantes de subvenciones deberán tener su sede en el Reino Unido, el gobierno dijo que se les alentará activamente a colaborar con otros investigadores de todo el mundo.
“Cuando el Reino Unido inauguró el primer Instituto de Seguridad de la IA del mundo el año pasado, nos comprometimos a lograr una misión ambiciosa pero urgente para cosechar los beneficios positivos de la IA promoviendo la causa de la seguridad de la IA”, dijo Donelan.
“Con los sistemas de evaluación para los modelos de IA ya implementados, la Fase 2 de mi plan para aprovechar de manera segura las oportunidades de la IA debe consistir en hacer que la IA sea segura en toda la sociedad.
“Esto es exactamente lo que estamos haciendo posible con esta financiación, que permitirá a nuestro instituto asociarse con el mundo académico y la industria para garantizar que sigamos siendo proactivos en el desarrollo de nuevos enfoques que puedan ayudarnos a garantizar que la IA siga siendo una fuerza transformadora para siempre. “
FOTO POR DAVID WOOLFALL“Esta financiación permitirá a nuestro Instituto de Seguridad de la IA asociarse con el mundo académico y la industria para garantizar que sigamos siendo proactivos en el desarrollo de nuevos enfoques que puedan ayudarnos a garantizar que la IA siga siendo una fuerza transformadora para el bien”.
Michelle Donelan, secretaria de Estado de Ciencia, Innovación y Tecnología
Christopher Summerfield, director de investigación del AISI, describió el nuevo programa como “un paso importante” para garantizar que la IA se implemente de forma segura en toda la sociedad. “Necesitamos pensar detenidamente cómo adaptar nuestra infraestructura y sistemas a un nuevo mundo en el que la IA esté integrada en todo lo que hacemos”, afirmó. “Este programa está diseñado para generar una gran cantidad de ideas sobre cómo abordar este problema y ayudar a garantizar que las grandes ideas se puedan poner en práctica”.
El primer día de la Cumbre de Seúl, el gobierno anunció los 10 ganadores de su Premio Manchester inaugural, que se creó en marzo de 2023 para financiar avances en IA que contribuyan al bien público. Cada uno de los finalistas recibirá una parte del premio en metálico de 1 millón de libras esterlinas y buscarán abordar los desafíos energéticos, de infraestructura y medioambientales utilizando la IA.
Los ganadores también se beneficiarán de paquetes de apoyo integrales, que incluyen financiación para recursos informáticos, apoyo a la preparación de los inversores y acceso a una red de expertos.
Una semana antes del anuncio de financiación, AISI publicó por primera vez un conjunto de resultados de pruebas de seguridad de IA, que encontraron que ninguno de los cinco modelos anónimos probados era capaz de realizar tareas más complejas y que requerían más tiempo sin que los humanos los supervisaran, y que todos ellos siguen siendo muy vulnerables a las “fugas” básicas de sus salvaguardias. También encontró que algunos de los modelos producirán resultados dañinos incluso sin intentos dedicados de eludir estas salvaguardas.
AISI también anunció planes para abrir una nueva sucursal en San Francisco durante el verano para acceder a empresas líderes en inteligencia artificial y talento tecnológico del Área de la Bahía.
En su intervención en Seúl, Donelan añadió: “Soy muy consciente de que sólo podemos lograr este trascendental desafío aprovechando un grupo amplio y diverso de talentos y disciplinas, y avanzando con nuevos enfoques que superen los límites de los conocimientos y metodologías existentes”.
En el primer día de la Cumbre AI de Seúl, 16 empresas de IA de todo el mundo firmaron el Compromisos de seguridad de la IA de Frontierun conjunto de compromisos voluntarios para garantizar que desarrollen la tecnología de forma segura y responsable.
Uno de los compromisos voluntarios clave asumidos es que las empresas no desarrollarán ni implementarán sistemas de inteligencia artificial si los riesgos no pueden mitigarse lo suficiente, aunque aún no se han establecido líneas rojas en torno a lo que constituye un riesgo inmitigable.
La UE y los mismos 10 países que firmaron el Declaración de intenciones de Seúl en torno a la colaboración en investigación sobre seguridad de la IA también firmó el Declaración de Seúlque afirmó explícitamente “la importancia de la colaboración activa de múltiples partes interesadas” en esta área y comprometió a los gobiernos involucrados a incluir “activamente” una amplia gama de partes interesadas en las discusiones relacionadas con la IA.
Entre los firmantes se encuentran Australia, Canadá, la UE, Francia, Alemania, Italia, Japón, la República de Corea, la República de Singapur, el Reino Unido y los Estados Unidos.