Un comité de los Lores pide al gobierno que haga de la competencia en el mercado de la inteligencia artificial (IA) “un objetivo político explícito”, al tiempo que critica su posición “inadecuada y en deterioro” sobre el uso de material protegido por derechos de autor en modelos de lenguajes grandes (LLM).
Tras la publicación de una respuesta del gobierno al informe del Comité Digital y de Comunicaciones sobre LLM e IA generativa (GenAI), la presidenta del comité, la baronesa Stowell, escribió a la secretaria digital Michelle Donelan agradeciéndole por el compromiso, al tiempo que le advirtió sobre “áreas importantes en las que creemos”. el gobierno necesita ir más allá de su posición actual”.
En particular, Stowell citó como problemas importantes la falta de acción del gobierno para mantener la competencia en los mercados de IA y protegerse contra la captura regulatoria en organismos públicos clave, así como su reticencia a tomar medidas significativas para proteger los derechos de autor de los creativos.
Informe y respuesta del gobierno
Publicado en febrero de 2024, el informe del comité advertía sobre la falta de competencia en los mercados de IA del Reino Unido; los riesgos de captura regulatoria en el Departamento de Ciencia, Innovación y Tecnología (DSIT) y el Instituto de Seguridad de la IA (AISI); y los efectos perjudiciales de permitir que los desarrolladores de IA pisoteen las leyes de derechos de autor.
En una respuesta formal publicada el 2 de mayo de 2024, el gobierno dijo que el Proyecto de Ley de Consumidores, Competencia y Mercados Digitales (DMCC) brindará a la Autoridad de Mercados y Competencia (CMA) las herramientas que necesita para identificar y abordar problemas importantes de competencia en una variedad de mercados digitales. mercados, incluida la IA, y señaló que el regulador ya ha publicado su revisión inicial sobre las implicaciones competitivas de los modelos básicos de IA.
Sobre la captura regulatoria, agregó: “De acuerdo con la política de conflictos de intereses de DSIT, AISI requiere que todas las personas se unan [its] Unidad de Investigación para declarar cualquier conflicto de intereses. Estos conflictos se mitigan de acuerdo con el proceso de conflictos acordado por el secretario permanente del DSIT”.
Si bien el gobierno señaló que AISI “se dedica a construir nueva infraestructura para realizar las pruebas y evaluaciones necesarias de IA avanzada”, Politico reveló en abril de 2024 que aún no ha podido llevar a cabo pruebas exhaustivas previas al despliegue de nuevos modelos, a pesar de los acuerdos. Se está trabajando con empresas líderes en IA para abrir sus modelos para este propósito en la Cumbre de IA en noviembre de 2023.
En cuanto a la IA y la propiedad intelectual, el gobierno dijo que estaba comprometido a garantizar la continuación del “sólido” marco de derechos de autor del Reino Unido: “La posición básica bajo la ley de derechos de autor es que hacer copias de material protegido infringirá los derechos de autor a menos que tenga una licencia o una excepción. aplica. Sin embargo, ésta es un área compleja y desafiante, y la interpretación de la ley de derechos de autor y su aplicación a los modelos de IA es objeto de controversia, tanto en el Reino Unido como a nivel internacional”.
El gobierno agregó que está colaborando activamente con las “partes interesadas relevantes para comprender perspectivas más amplias en relación con la transparencia sobre los propósitos de los rastreadores web” y reiteró el compromiso asumido en su documento técnico sobre IA para avanzar en el trabajo sobre la transparencia de las entradas y salidas de los modelos de IA. .
Si bien señaló que hay varios casos legales en curso sobre el uso de material protegido por derechos de autor en modelos de entrenamiento de IA, el gobierno dijo que “no sería apropiado que el gobierno haga comentarios sobre los casos judiciales en curso. Estos casos son competencia de los tribunales y se les debe permitir concluir de forma independiente”.
El gobierno también reiteró su compromiso de no legislar sobre IA hasta que tenga una comprensión completa de la evidencia sobre los riesgos y sus posibles mitigaciones.
Carta de la baronesa Stowell
Publicada el mismo día de la respuesta formal del gobierno, la carta de la baronesa Stowell proporciona detalles sobre las preocupaciones actuales del comité con respecto al enfoque del Reino Unido hacia GenAI y LLM.
Al describir el historial del gobierno en materia de derechos de autor como “inadecuado y en deterioro”, Stowell dijo que si bien el comité aprecia las complejidades técnicas y políticas involucradas, “no estamos convencidos de que el gobierno esté invirtiendo suficiente creatividad, recursos y peso político de alto nivel para abordar el problema”.
Es difícil escapar a la conclusión de que el gobierno está evitando tomar partido en un tema polémico.
Baronesa Stowell, Comité Digital y de Comunicaciones de Lords
Y añadió: “El contraste con otras cuestiones, en particular la seguridad de la IA, es marcado. El gobierno ha asignado alrededor de £400 millones a un nuevo Instituto de Seguridad de IA con la atención de alto nivel del primer ministro. En materia de derechos de autor, el gobierno creó y posteriormente disolvió una fallida serie de mesas redondas dirigidas por la Oficina de Propiedad Intelectual. El compromiso con la participación ministerial es útil, pero los próximos pasos no están claros. Aunque esto tiene buenas intenciones, simplemente no es suficiente”.
Stowell dijo que la respuesta del gobierno “se niega a proporcionar una visión clara” de si apoya la aplicación de los principios de derechos de autor a los LLM y si está preparado para presentar legislación para resolver legalmente el asunto.
“De hecho, sugiere que el gobierno no desea hacer comentarios para no perjudicar el resultado de los casos judiciales en curso. Esta afirmación es equivocada y poco convincente”, escribió, añadiendo que establecer la intención de abordar la inseguridad jurídica no violaría ninguna convención ‘sub judice’ que impida a los parlamentarios comentar sobre casos judiciales en curso: “Por lo tanto, es difícil escapar a la conclusión de que el El gobierno está evitando tomar partido en un tema polémico”.
Stowell concluyó que la reticencia del gobierno a tomar medidas significativas equivale a un respaldo de facto a las prácticas de las empresas tecnológicas.
“Eso”, dijo, “refleja mal el compromiso de este gobierno con las empresas británicas, el juego limpio y la aplicación equitativa de la ley. Los derechos de autor catalizan, protegen y monetizan la innovación, como lo demuestra el éxito de £100 mil millones de las industrias creativas del Reino Unido. Existe una gran oportunidad para establecer un legado convincente en el apoyo a la IA responsable. Le instamos a que lo acepte”.
En cuanto a las cuestiones de competencia de mercado y captura regulatoria, Stowell dijo que hay una clara tendencia hacia la consolidación en la vanguardia de los mercados de IA, y que los objetivos de políticas explícitamente pro-competencia “deben integrarse dentro del proceso de diseño y revisión de nuevas políticas y estándares”. , y sujeto a una crítica interna y externa estructurada”.
Y añadió: “Nos decepcionó que el gobierno aún no se haya comprometido públicamente a fortalecer las medidas de gobernanza para protegerse contra la captura regulatoria. Esto debe ir más allá de declarar intereses.
“Como advertimos en nuestro informe, existe una clara tendencia hacia una mayor dependencia de la experiencia técnica externa para informar las decisiones sobre estándares y marcos de políticas. Esto traerá una valiosa participación de la industria. Pero los riesgos no deseados de afianzar las ventajas de los titulares son reales y crecientes”.
Stowell señaló que incluso una percepción infundada de relaciones estrechas entre las políticas de IA y los líderes tecnológicos corre el riesgo de dañar duraderamente la confianza pública y que, por lo tanto, el gobierno debería asumir compromisos más explícitos en torno a mejores medidas de gobernanza.
Al comentar sobre la carta de Stowell, un portavoz del DSIT dijo: “El Reino Unido es un líder mundial en innovación en IA y tiene un sector de industrias creativas que genera más de £124 mil millones al año. Apoyamos a los artistas y defendemos un enfoque que les permita trabajar en asociación con innovadores de la IA para aprovechar las oportunidades que ofrece esta tecnología, al tiempo que colaboramos estrechamente con las partes interesadas relevantes en cuestiones como los derechos de autor.
“Ya hemos esbozado un enfoque regulatorio para la IA a principios de este año que abordará rápidamente los desafíos globales, garantizará un avance seguro y fomentará un mercado abierto y competitivo en IA. Esto se suma a la financiación para la IA de nuestro presupuesto récord de 20.000 millones de libras en I+D de forma justa y responsable”.
