Los políticos clave europeos reunidos en la Cumbre de Acción de AI se han comprometido a cortar la “burocracia” para garantizar que la inteligencia artificial (IA) sea capaz de florecer en todo el continente, lo que indica una alineación más estrecha con el enfoque de la regulación de los Estados Unidos.
La cumbre de París sigue la inauguración de la Cumbre de Seguridad de IA organizada por el gobierno del Reino Unido en Bletchley Park en noviembre de 2023, y la segunda cumbre de AI Seúl en Corea del Sur en mayo de 2024, los cuales se centraron en gran medida en los riesgos asociados con la tecnología y pusieron énfasis en Mejora de su seguridad a través de la cooperación e investigación científica internacional.
Sin embargo, existen preocupaciones de algunos grupos de la sociedad civil y los profesionales de la IA, ha habido un cambio de este enfoque en la seguridad durante la última cumbre de IA, ya que los políticos y las figuras de la industria ahora aparentemente priorizan la velocidad y la innovación sobre la seguridad y la regulación.
El vicepresidente de Estados Unidos, JD Vance, por ejemplo, dijo a la cumbre el 11 de febrero: “La regulación excesiva del sector de la IA podría matar una industria transformadora … necesitamos regímenes regulatorios internacionales que fomenten la creación de la tecnología de IA en lugar de estrangularla, y Necesitamos a nuestros amigos europeos en particular para mirar a esta nueva frontera con optimismo en lugar de inquietud “.
Los comentarios de Vance siguen al presidente de los Estados Unidos, Donald Trump, revocan una orden ejecutiva el 20 de enero de 2025 firmada por el predecesor Joe Biden que requería que los desarrolladores de IA compartieran los resultados de las pruebas de seguridad con el gobierno de los Estados Unidos para los sistemas que plantearon riesgos para la seguridad nacional, la economía o la salud pública, lo que provocó Preocupaciones en ese momento sobre la divergencia regulatoria entre Estados Unidos, Europa y China.
Vance agregó que si bien un enfoque de toque de luz no significa arrojar todas las preocupaciones de seguridad por la ventana, “el enfoque es importante, y ahora debemos centrarnos en la oportunidad de atrapar a Lightning en una botella”.
La adopción de un enfoque regulatorio más alineado y de tacto ligero también fue alentado por las cifras de la industria, sobre la base de que impulsaría la productividad y la innovación.
Durante un discurso pronunciado el primer día de la Cumbre de AI, el CEO de Google, Sundar Pichai, dijo que era importante que se alineen diferentes regímenes regulatorios: “La IA no puede florecer si hay un entorno regulatorio fragmentado, con diferentes reglas en diferentes países y regiones “.
Agregó que, si bien la historia mirará hacia atrás hoy como “el comienzo de una edad de oro de la innovación”, los resultados positivos no se pueden garantizar: “La competitividad europea depende de la productividad, por lo que conducir la adopción es clave … el mayor riesgo podría perderse”.
Pichai también pidió a los gobiernos que inviertan más en ecosistemas de innovación de IA, destacando la rápida adopción de la tecnología en toda Francia: “¿Cómo creamos más de estos bolsillos en más lugares?”
Sam Altman compartieron sentimientos similares en un artículo de opinión para Le Monde Publicado antes de la cumbre, que alentó a los políticos europeos a centrarse en la innovación sobre la regualización: “Si queremos crecimiento, empleos y progresos, debemos permitir que los innovadores innovaran a los constructores para construir y desarrolladores se desarrollen”.
Agregó: “En Europa, gran parte de la conversación se ha centrado en lo que el ex presidente del Banco Central Europeo Mario Draghi ha llamado una” brecha de innovación “europea con Estados Unidos y China que plantea un” desafío existencial “para el futuro de la UE”.
Tanto el presidente francés Emmanuel Macron como el jefe digital de la Unión Europea (UE), Henna Virkkunen, indicó firmemente que el bloque simplificaría sus reglas e implementaría de una manera amigable para los negocios para ayudar a la IA en la escala del continente.
“Está muy claro que tenemos que resincronizar con el resto del mundo”, dijo Macron, y agregó que el gobierno francés adoptará una estrategia de “Notre Dame”, refiriéndose a cómo se reconstruyó la catedral dentro de los cinco años del incendio de 2019: “Nosotros nosotros Mostró el resto del mundo que cuando nos comprometemos con una línea de tiempo clara, podemos entregar … El enfoque de Notre-Dame se adoptará para los centros de datos, para que la autorización vaya al mercado, para la IA y el atractivo “.
Virkkunen agregó: “Estoy de acuerdo con las industrias sobre el hecho de que ahora, también tenemos que mirar nuestras reglas, que tenemos demasiada regulación superpuesta … Cortaremos la burocracia y la carga administrativa de nuestras industrias”.
Tras el anuncio de que Francia invertirá alrededor de € 109 mil millones en centros de datos y proyectos relacionados con la IA en los próximos años, Macron declaró que Francia está “de vuelta en la carrera de IA”.
El comisionado europeo Ursula von der Leyen, sin embargo, descartó la idea de que Europa se había quedado atrás de alguna manera: “La raza de IA está lejos de terminar. La verdad es que solo estamos al principio. La frontera se mueve constantemente, y el liderazgo global aún está en juego “, y agregó que el” enfoque distintivo “de Europa debería centrarse en soluciones colaborativas de código abierto.
Terminó su discurso anunciando un adicional de 200 mil millones de euros para la inversión de la EE AI, 20 mil millones de euros de los cuales indicó que se utilizaría en gigafactorías para ayudar a capacitar modelos muy grandes: “Proporcionamos la infraestructura para una gran potencia computacional. Investigadores, empresarios e inversores podrán unir fuerzas “.
Sin embargo, agregó: “Al mismo tiempo, sé que tenemos que hacerlo más fácil, y tenemos que cortar la burocracia, y lo haremos”.
Si bien se espera que los líderes mundiales que asistan a la cumbre firmen una declaración conjunta y no vinculante, un borrador de la cual destaca la importancia de los enfoques inclusivos y sostenibles para la IA, así como los riesgos de la concentración del mercado en torno a la tecnología, se ha informó que es poco probable que los Estados Unidos y el Reino Unido firmen.
Un ‘cambio preocupante’
A algunos les preocupa que la retórica que salga de la cumbre indique un cambio preocupante en el panorama global de IA.
Kasia Borowska, directora gerente y cofundadora de Brainpool AI, una red global de 500 expertos en AI y Aprendizaje Máineamos (ML) que crean herramientas de IA personalizadas para las empresas, dijo que el discurso de Vance en particular significa que los gobiernos están “priorizando la innovación sobre la regulación”, Agregando que hay serias preguntas sobre la seguridad del desarrollo posterior de AI.
“Si nos apresuramos a ganar la ‘carrera armamentista de AI’ sin establecer mecanismos de control robustos para las tecnologías de IA existentes, no estaremos preparados para manejar AGI [artificial general intelligence]”, Dijo ella. “Independientemente de quién logre primero a AGI, un enfoque de carrera a la cima que prioriza la velocidad sobre la seguridad podría conducir a consecuencias desastrosas para todos. Debemos implementar salvaguardas adecuadas ahora, antes de llegar a AGI, cuando sea demasiado tarde “.
Chris Williams, socio de la firma de abogados global Clyde & Co, agregó que si bien sigue habiendo una gran exageración sobre lo que la IA puede lograr realmente, el enfoque claramente ha cambiado de equilibrar la seguridad e innovación de la IA.
“La narrativa de la” seguridad primero “en torno a la IA, que alguna vez fue frecuente entre los que ahora están en el gobierno claramente se ha centrado en hacer lo que es necesario para fomentar la innovación, y un buen ejemplo de esto es el Reino Unido que tiene como objetivo convertirse en un ‘ AI Superpower ‘. No importa la jurisdicción, ya sea el Reino Unido o nosotros, la necesidad de crear salvaguardas legislativas se considera como “agradables para tener” pilares esenciales para desarrollar IA de una manera segura, responsable y ética “, dijo.
“En esta etapa, la respuesta regulatoria podría necesitar ser más fluida y menos prescriptiva para evitar la innovación sofocante, pero es probable que deba incluir una visión a largo plazo de intensificar gradualmente los controles y equilibrios a medida que la IA se vuelve más avanzada”.
Al comentar sobre el borrador de desaceleración, Gaia Marcus, directora del Instituto Ada Lovelace, dijo que los gobiernos deben volver a centrarse en la seguridad de la tecnología, que dominó las dos cumbres internacionales de IA anteriores.
“Según el borrador inicial, nos preocupa que el andamio proporcionado por la Declaración oficial de la cumbre no sea lo suficientemente fuerte”, dijo, y agregó que, si bien destaca el “consenso generalizado” sobre los riesgos estructurales clave como la concentración del mercado de IA y los desafíos de sostenibilidad, “No se basa en la misión de hacer que la IA sea segura y confiable, y los compromisos de seguridad de las cumbres anteriores. No hay herramientas para garantizar que las empresas tecnológicas sean responsables de los daños. Y existe una brecha creciente entre las expectativas públicas de seguridad y la acción del gobierno para regular.
“No habrá una mayor barrera para el potencial transformador de la IA que un fracaso en la confianza pública … Los países de ideas afines que reconocen los costos de los riesgos no abordados deben encontrar otros foros para continuar construyendo la agenda de seguridad”.