Adobe ha ampliado el alcance de su programa de recompensas por errores, supervisado por especialistas de HackerOne, para dar cuenta del desarrollo de la inteligencia artificial (IA) generativa, recompensando a los piratas informáticos éticos que descubren y divulgan de manera responsable vulnerabilidades Adobe Firefly, su plataforma de IA generativa, y su servicio de Credenciales de Contenido.
La organización dijo que a medida que la IA generativa se integra más estrechamente en la vida diaria de las personas, se vuelve cada vez más importante comprender y mitigar los riesgos que surgen, y que al ampliar su programa y fomentar un diálogo abierto sobre una IA segura y confiable, espera Fomentar nuevas ideas y perspectivas, al tiempo que se ofrece transparencia y se mejora la confianza.
“Las habilidades y experiencia de los investigadores de seguridad desempeñan un papel fundamental en la mejora de la seguridad y ahora pueden ayudar a combatir la difusión de información errónea”, dijo Dana Rao, vicepresidente ejecutivo, asesor general y director de confianza de Adobe.
“Estamos comprometidos a trabajar con la industria en general para ayudar a fortalecer nuestra implementación de Credenciales de contenido en Adobe Firefly y otros productos emblemáticos para poner temas importantes en primer plano y fomentar el desarrollo de soluciones de IA responsables”, dijo Rao.
Lanzado en marzo de 2023 y desarrollado en su plataforma Sensei, Adobe Firefly es una familia de modelos de IA generativa para diseñadores, que ha sido entrenado en millones de imágenes de Creative Commons, Wikimedia y Flickr Commons, así como de Adobe Stock y otras imágenes en el dominio público.
Al abrir el servicio a los cazarrecompensas de errores, Adobe quiere que los piratas informáticos presten atención específica al OWASP Top 10 para modelos de lenguajes grandes (LLM), analizando los problemas que surgen de la inyección rápida, la divulgación de información confidencial o el envenenamiento de datos de entrenamiento, para identificar las debilidades en Luciérnaga
La segunda parte de la expansión, que cubre las Credenciales de contenido, supuestamente ayudará a brindar más transparencia en cuanto a la procedencia de los elementos creados con Firefly. Se basan en el estándar abierto C2PA y sirven como metadatos a prueba de manipulaciones sobre su creación y edición. Las credenciales de contenido también están integradas en varios productos de Adobe además de Firefly, incluidos Photoshop y Lightroom.
“La creación de productos de IA seguros comienza con la participación de expertos que conocen mejor los riesgos de esta tecnología. La comunidad mundial de hackers éticos ayuda a las organizaciones no sólo a identificar las debilidades de la IA generativa, sino también a definir cuáles son esos riesgos”, afirmó Dane Sherrets, arquitecto senior de soluciones de HackerOne. “Felicitamos a Adobe por interactuar de manera proactiva con la comunidad; la IA responsable comienza con los propietarios de productos responsables”.
Los hackers éticos interesados en echar un vistazo bajo el capó pueden encontrar más información en la página dedicada a HackerOne de Adobe, o si están interesados en unirse a su programa privado de recompensas por errores, pueden presentar su solicitud aquí.
Para los profesionales cibernéticos que se dirigen a BSides San Francisco el fin de semana del 4 y 5 de mayo, Adobe también estará presente en Bug Bounty Village y patrocinará una fiesta “distópica” el sábado por la noche en la que los bailarines “tejerán una historia interpretativa de la tecnología”. luchas éticas”.
Adobe se une a un número creciente de empresas de tecnología que toman medidas para abordar los riesgos de la IA generativa a través de programas de recompensas por errores, entre ellos Google, que amplió su programa de recompensas por errores, el Vulnerability Rewards Program (VRP) para abarcar escenarios de ataque específicos del suministro de IA generativa. cadena en octubre de 2023.