El llamado del primer ministro para el “cableado completo del estado británico” ha puesto la responsabilidad en el servicio civil para que coincida con las demandas que lo imponen los rápidos avances tecnológicos, sobre todo el aumento de la inteligencia artificial generativa (IA).
La pregunta no es si AI cambia cómo se hace la política, sino cómo los responsables políticos pueden usarla para mejorar los resultados para los ciudadanos. El impacto será extenso pero no total. Hay algunas partes del proceso de formulación de políticas en las que, por ahora, el papel del formador de políticas no se ve afectado, como los funcionarios que usan su juicio para navegar por los intereses e idiosincrasias de Whitehall para hacer las cosas.
Pero en otras áreas, el efecto será más aparente e inmediato. Herramientas como Redbox pueden reducir drásticamente el tiempo que tarda un ministro en aprender sobre un nuevo tema, así como en servicio de un funcionario, pueden solicitar un modelo de idioma grande (LLM). Esto desafía las formas tradicionales en que los funcionarios administran el flujo de información en los ministros.
LLMS también cambiará el proceso intelectual por el cual se construye la política. En particular, son cada vez más útiles, y se utilizan cada vez cada vez más, para sintetizar la evidencia existente y sugerir una intervención política para lograr un objetivo.
El trabajo de política en Whitehall ya está siendo útilmente aumentado por LLMS, la forma más común de IA generativa. Las herramientas disponibles incluyen:
Redboxque puede resumir las recomendaciones de políticas en presentaciones y otros documentos de políticas y tiene más de 1,000 usuarios en toda la oficina del gabinete y el Departamento de Ciencia, Innovación y Tecnología.
Consultarque el gobierno dice resume y agrupa las respuestas a consultas públicas mil veces más rápido que los analistas humanos. Las herramientas similares son utilizadas por los gobiernos en el extranjero, por ejemplo en Singapur.
Una demostración en vivo de Redbox en el Festival de Política del Servicio Civil 2024 mostró que analizó un documento que describe los problemas con la operación de la red nacional y resume las ideas de un informe OFGEM sobre cómo mejorarlo.
Los LLM tienen límites
Si bien los LLM avanzan rápidamente y algunas de sus deficiencias actuales solo pueden ser temporales, quedan límites para lo que pueden hacer.
Pueden sintetizar una amplia gama de información sofisticada, pero su producción posterior puede ser incorrecta, ocasionalmente muy conocida como alucinación. Las salidas de LLM también pueden contener sesgos para los cuales los funcionarios deben corregirse, incluidos supuestos injustos sobre ciertos grupos demográficos.
Debido a que los LLM están capacitados en la información escrita disponible, sus resultados pueden carecer de los matices y el contexto que la experiencia humana puede proporcionar. Diseñar una nueva política para aumentar, por ejemplo, la eficiencia con la que se ejecutan los hospitales requiere poseer un conocimiento avanzado sobre la política de salud, del tipo LLM es cada vez más capaz de resumir.
Pero también requiere información privilegiada sobre la forma en que los hospitales realmente funcionan: un contexto vital como las partes del sistema se están jugando actualmente y cómo, y una comprensión de cómo los médicos, las enfermeras y el personal administrativo responderán a cualquier cambio.
Los LLM también tienden a proporcionar respuestas “estándar”, luchando por capturar información a la vanguardia de un campo y proporcionar ideas novedosas. A menos que el usuario estira, es poco probable que sugieran respuestas más radicales y esto tiene consecuencias, particularmente en áreas de política de rápido movimiento. Irónicamente, la política de IA es una de esas áreas.
Finalmente, la incorporación credulosamente de las salidas LLM en el proceso de formulación de políticas puede ser peligroso. La evidencia, ya sea científica, social u otra, rara vez señala en una dirección y una LLM que resume la evidencia podría elevar implícitamente algunos principios políticos sobre otros. Si se hace mal, un formador de políticas que incorpora ese resultado en asesoramiento a un ministro corre el riesgo de desarrollar suposiciones en sus recomendaciones que sean contrarias a las opiniones políticas de ese ministro.
El papel de los formuladores de políticas cambiará
Todas estas son buenas razones para precaución. Pero los beneficios potenciales de usar LLM son grandes. En un proceso de formulación de políticas acuático de AI-AI, el papel clave del formador de políticas será introducir el conocimiento de que un LLM no puede.
El valor agregado de los formuladores de políticas probablemente se manifestará de dos maneras principales. El primero es usar su experiencia para editar y dar forma a LLM “Primeros borradores”, incluida la verificación y corrección de alucinaciones y sesgos adversos. Esto no es tan diferente a lo que actualmente hacen los mejores responsables políticos: los humanos también se equivocan o exponen los prejuicios a través de su trabajo.
El segundo es mediante capas de las ideas de los formuladores de políticas además de las salidas de LLM, a veces preparándose para empujarlas en una dirección más radical. Esto podría implicar un proceso interactivo, en el que se le pide a un LLM que proporcione comentarios sobre las ideas producidas por un formador de políticas. El tiempo liberado utilizando LLM para realizar tareas tradicionalmente intensivas en el tiempo podría brindar a los responsables políticos la oportunidad de reunir y implementar nuevos tipos de información que puedan ayudar a crear mejores políticas.
Particularmente importante será el tipo de información privilegiada hiperpecífica o en tiempo real que los LLM tienen dificultades para capturar, que podrían adquirirse de manera nueva y creativa: pasar tiempo inmerso en la primera línea, construyendo una red profesional que puede dar reacciones en tiempo real a nuevos desarrollos, o algo completamente diferente.
Construcción de habilidades
Sin embargo, la integración de LLM en el gobierno podría dificultar que los responsables políticos adquiran habilidades importantes. Si la experiencia en el dominio y las ideas internos son las cosas para las cuales los responsables políticos son cada vez más valorados, deben poseer las habilidades proporcionales.
Pero esto presenta una especie de paradoja: la adopción de LLM podría no solo hacer que la experiencia en el dominio sea aún más importante para poseer, sino también más difícil de adquirir. Es precisamente las actividades que los LLM son tan eficientes para realizar: recopilar y sintetizar la evidencia existente, y usarlo como base para las soluciones de políticas, que los responsables políticos han tendido a utilizar sus primeros componentes básicos de experiencia.
Esto también tiene consecuencias para la capacidad de los encargados de formular políticas para recopilar información privilegiada. Todo es muy bien liberar el tiempo para que los responsables políticos recopilen información de nuevas maneras, pero si no tienen un nivel de experiencia de referencia, les resultará difícil saber dónde buscarla y cómo interpretarla.
Esto deja el servicio civil con dos opciones. El primero es preservar algunas tareas básicas para más funcionarios junior para que puedan construir la experiencia de dominio necesaria para usar de manera inteligente LLM.
El segundo es reinventar la forma en que los formuladores de políticas adquieren experiencia, reduciendo la dependencia de los métodos tradicionales ahora acompañados de AI-AI. Por ejemplo, el tipo de funcionario que actualmente es un responsable de políticas junior podría implementarse en la primera línea, dándoles experiencia personal de la operación del estado que pueden usar en un papel de política más convencional en Whitehall una vez que se vuelven más senior.
Quizás el mejor enfoque sería que el Servicio Civil comience mediante tareas de Fencing, pero comisiona activamente proyectos de “probar y aprender” para explorar enfoques más imaginativos y escalar aquellos donde trabajan. Esto podría tener lugar junto con la implementación de soluciones más tradicionales. Por ejemplo, el servicio civil tiene un problema con el exceso de facturación y los funcionarios que se mueven entre las áreas de política con menos frecuencia les resultaría más fácil desarrollar experiencia.
Conclusión
La formulación de políticas es uno de los trabajos más importantes y más difíciles que hace el servicio civil, y mejorar cómo se hace es un premio sustancial. Un proceso de formulación de políticas que combina experiencia humana con LLM no solo será más eficiente, sino más perspicaz y conectado con las preocupaciones de los ciudadanos.
Canalizar la adopción de LLM de la manera más productiva posible, maximizar los beneficios al mitigar los riesgos, es crucial para que el servicio civil se acerte. Solo dejar que el cambio ocurra no debe ser una opción: debe tener forma proactiva.
Jordan Urban es investigador principal del Instituto de Gobierno.