El gobierno ha brindado orientación para ayudar a los desarrolladores de inteligencia artificial (IA) a mejorar la seguridad cibernética en los modelos de IA.
El Departamento de Ciencia, Innovación y Tecnología (DSIT) dijo que las medidas dirigidas a los desarrolladores establecerían un estándar global para proteger los modelos de IA contra la piratería. El gobierno espera que los códigos de práctica ayuden a las empresas a innovar e impulsar el crecimiento económico en todo el país y formar la base de un futuro estándar global.
Rosamund Powell, investigadora asociada del Instituto Alan Turing, dijo: “Los sistemas de inteligencia artificial conllevan una amplia gama de riesgos de seguridad cibernética que a menudo no se abordan cuando los desarrolladores se apresuran a implementar nuevas capacidades. El código de práctica publicado hoy brinda apoyo práctico muy necesario a los desarrolladores sobre cómo implementar un enfoque seguro por diseño como parte de su proceso de diseño y desarrollo de IA.
“Los planes para que forme la base de un estándar global son cruciales dado el papel central que ya desempeñan los estándares internacionales para abordar los desafíos de seguridad de la IA a través de un consenso global. Las investigaciones destacan la necesidad de grupos de trabajo inclusivos y diversos, acompañados de incentivos y capacitación para quienes los necesitan, para garantizar el éxito de estándares globales como este”.
DSIT dijo que los códigos establecen requisitos para que los desarrolladores hagan que sus productos sean resistentes a la manipulación, la piratería y el sabotaje para aumentar la confianza en el uso de modelos de IA en la mayoría de las industrias.
“Siempre hemos tenido claro que para aprovechar el enorme potencial de la economía digital, necesitamos fomentar un entorno seguro para que crezca y se desarrolle”, dijo el ministro de Tecnología, Saqib Bhatti. “Esto es precisamente lo que estamos haciendo con estas nuevas medidas, que ayudarán a que los modelos de IA sean resilientes desde la fase de diseño.
“El informe de hoy muestra que no sólo estamos haciendo que nuestra economía sea más resistente a los ataques, sino que también estamos brindando prosperidad y oportunidades a los ciudadanos del Reino Unido en todo el país”, dijo. “Es fantástico ver un crecimiento tan sólido en la industria, que nos ayuda a consolidar la posición del Reino Unido como líder mundial en seguridad cibernética mientras seguimos comprometidos a fomentar el desarrollo seguro y sostenible de la economía digital”.
El informe anual del gobierno Informe de análisis cibersectorial muestra que en los últimos 12 meses, la mitad de las empresas (50%) y un tercio de las organizaciones benéficas (32%) informaron sobre violaciones o ataques cibernéticos. El informe encontró que el phishing seguía siendo el tipo de infracción más común.
Felicity Oswald, directora ejecutiva del Centro Nacional de Seguridad Cibernética, dijo: “Para aprovechar al máximo los avances tecnológicos que transformarán la forma en que vivimos, la seguridad cibernética debe estar en el centro de la forma en que desarrollamos los sistemas digitales.
“Los nuevos códigos de práctica ayudarán a respaldar a nuestra creciente industria de seguridad cibernética para desarrollar modelos y software de IA de una manera que garantice que sean resistentes a ataques maliciosos”.
Kevin Curran, miembro senior del IEEE y profesor de seguridad cibernética, dijo que las empresas deben adelantarse a las amenazas potenciales. “El panorama de amenazas evoluciona constantemente, por lo que las organizaciones deben mantener el ritmo y asegurarse de revisar y actualizar periódicamente sus defensas”, dijo.
“Algunos enfoques que funcionaron hace apenas unos años ahora están obsoletos y, dada la rapidez con la que se ha implementado la inteligencia artificial en los últimos meses, las empresas deben adoptar estrategias y herramientas de protección de datos más integrales para proteger sus sistemas”.