Muchos de los bancos más grandes del mundo carecen de transparencia sobre cómo están desarrollando la inteligencia artificial (IA) que podría usarse en la toma de decisiones y la gestión de riesgos en el futuro.
Un estudio de los 23 bancos más grandes de Europa, EE. UU. y Canadá encontró ocho que no han informado públicamente sobre sus principios de IA responsable.
La empresa de evaluación comparativa Evident evaluó a los bancos en cuatro áreas de IA responsable, utilizando datos públicos para crear su Índice de IA. Examinó la creación de roles de liderazgo de IA por parte de los bancos, la publicación de principios éticos, las colaboraciones con otras organizaciones y la publicación de investigaciones originales.
La directora ejecutiva de Evident, Alexandra Mousavizadeh, dijo que la IA podría proporcionar una mejor gestión de riesgos y toma de decisiones en todo el sector bancario mundial. Pero agregó que era vital que los bancos desarrollaran la IA de una manera que cumpliera con altos estándares éticos y minimizara las consecuencias imprevistas.
“Nuestra investigación encontró una preocupante falta de transparencia sobre cómo se usa ya la IA, y cómo se puede usar en el futuro, lo que podría dañar la confianza de las partes interesadas y sofocar el progreso”, dijo Mousavizadeh. “En este sector altamente regulado, la realidad es que muchas instituciones están tomando medidas proactivas para abordar las preocupaciones de la IA y desarrollar programas internos para abordar la IA responsable”.
Los bancos ya utilizan la IA para autenticar a los clientes, filtrar datos mucho más rápido que los humanos y para modelar riesgos.
“El problema es que no existe un estándar para la presentación responsable de informes de IA, y muchos bancos ocultan los detalles de sus esfuerzos”, agregó Mousavizadeh. “En este momento crítico para el sector, los bancos deben mostrar liderazgo y comenzar a informar públicamente sobre su progreso en IA”.
Con el colapso de Silicon Valley Bank y los problemas de Credit Suisse, la toma de decisiones en el sector bancario está en el punto de mira.
La investigación de Evident descubrió que los bancos europeos eran los menos transparentes cuando se trataba de informar sobre sus políticas para una IA responsable.
JPMorgan Chase, Royal Bank of Canada y Toronto-Dominion Bank fueron los únicos bancos investigados que tenían “un enfoque estratégico demostrable en la transparencia en torno a la IA responsable”, según el informe de Evident. Cada uno de estos bancos podría mostrar evidencia de crear roles de liderazgo de IA responsables específicos, publicar principios éticos e informes sobre IA, así como asociarse con universidades y organizaciones relevantes.
El informe dice que los bancos europeos difieren de los bancos norteamericanos en la forma en que eligen sus equipos de IA. Es más probable que los bancos en América del Norte contraten funciones específicas de IA responsable, generalmente de empresas de Big Tech, mientras que los bancos europeos suelen liderar la IA responsable dentro de sus equipos de ética de datos.
La cofundadora de Evident, Annabel Ayles, dijo: “Los bancos europeos que ven la IA responsable a través de una lente de ética de datos, posiblemente debido al dominio de la legislación del Reglamento General de Protección de Datos, tal vez se estén perdiendo un truco al no crear roles específicos de IA y pensar de manera holística sobre los riesgos más amplios que plantea la IA”.