La inteligencia artificial generativa (IA) y los modelos de lenguaje extenso (LLM) asociados utilizados por servicios como ChatGPT y Google Bard pueden resultar herramientas muy beneficiosas en el aula, pero las escuelas deberán revisar y fortalecer sus posturas de seguridad cibernética y los maestros trabajar más duro para salvaguardar a los estudiantes, ha dicho el Departamento de Educación (DfE).
El DfE ha publicado hoy una declaración sobre el uso de IA generativa en escuelas y universidades, informada por el documento técnico de regulación de IA de Westminster, también publicado hoy, que establece su posición sobre la tecnología de alto perfil y rápida evolución. Dijo que reconoció que la IA generativa planteaba “oportunidades y desafíos” para el sector.
Hablando en el show de Bett en Londres, la secretaria de educación Gillian Keegan dijo: “La IA tendrá el poder de transformar el trabajo diario de un maestro. Hemos visto a personas usándolo para escribir planes de lecciones y algunos experimentos interesantes sobre la corrección.
“¿Puede hacer esas cosas ahora, al nivel que necesitamos? No. ¿Debería el tiempo que se ahorra a costa de la calidad producida por un maestro capacitado? Absolutamente no”, dijo.
“Pero, ¿podríamos llegar a un punto en el que las tareas que realmente consumen el tiempo de los docentes se reduzcan significativamente? Creo que lo haremos.
“Llegar a ese punto es un viaje que tendremos que emprender juntos en esta sala, y así como hemos respondido a otras innovaciones como la calculadora, la usaremos para brindar mejores resultados a los estudiantes”, dijo Keegan. .
En la declaración completa, el DfE dijo que, utilizada adecuadamente, la IA generativa tenía el potencial de convertirse en un asistente administrativo útil para los maestros, reduciendo el tiempo que dedican a actividades que no son para los alumnos y permitiéndoles concentrarse más en su misión educativa principal.
Sin embargo, dijo, los maestros deberían ser conscientes de las implicaciones de datos y privacidad al usarlos para tales fines. Por ejemplo, teniendo cuidado de no permitir que acceda a datos personales o sensibles de los estudiantes a su cargo, y entendiendo que cualquier dato que ingrese debe considerarse divulgado en Internet.
“¿Debería el tiempo [AI] ¿Los ahorros se han producido alguna vez a costa de la calidad producida por un maestro capacitado? Absolutamente no. Pero, ¿podríamos llegar a un punto en el que las tareas que realmente consumen el tiempo de los docentes se reduzcan significativamente? Creo que lo haremos”
Gillian Keegan, DfE
Los maestros también deberán desarrollar una mayor conciencia de seguridad cibernética, dijo el DfE. Por ejemplo, el uso de LLM para generar correos electrónicos de phishing cada vez más convincentes podría poner a las escuelas en mayor riesgo de ser víctimas de incidentes cibernéticos graves, incluidos ataques de ransomware.
El DfE también advirtió que tales herramientas podrían producir información poco confiable y, por lo tanto, deberían verificarse para garantizar su idoneidad y precisión, lo que es doblemente importante dado que, en muchos casos, una herramienta determinada no habrá sido entrenada en el plan de estudios de inglés.
Dijo que si la IA generativa se va a utilizar para producir planes, políticas o documentos administrativos, la persona que los produjo debe seguir siendo responsable profesionalmente de ellos.
En cuanto a la tarea y otras formas de estudio no supervisado, el DfE recomienda que las escuelas comiencen a revisar sus políticas existentes en esta área para tener en cuenta la disponibilidad pública generalizada de IA generativa.
Esto incluirá tomar medidas para evitar la mala práctica por parte de los estudiantes que pueden verse tentados a utilizar la IA generativa para producir trabajos de curso evaluados formalmente que no son suyos.
En circunstancias en las que se considere apropiado que los estudiantes usen IA generativa, también deberán estar equipados con el conocimiento y las habilidades para juzgar si el material que produce es preciso y apropiado. Los maestros tendrán el deber de asegurarse de que los estudiantes no utilicen herramientas de inteligencia artificial para acceder o generar contenido dañino o inapropiado.
Las escuelas pueden ayudar en este sentido al mejorar su enseñanza de TI para incluir el uso seguro y apropiado de la IA al ayudar a los estudiantes a comprender las limitaciones, la confiabilidad y el sesgo de la IA, cómo se organiza y clasifica la información en Internet y la seguridad en línea para protegerse contra daños. o contenido engañoso. El DfE se comprometió con un programa de trabajo para apoyar a las escuelas en esto.
Paquete de soporte
El DfE también anuncia hoy un paquete de apoyo para ayudar a las escuelas a construir bases “seguras, protegidas y confiables” que les permitan usar tecnología más poderosa.
Estas adiciones a los estándares digitales y tecnológicos existentes, que cubren el uso de servicios en la nube, servidores y almacenamiento, y filtrado y monitoreo, supuestamente ayudarán a las escuelas a ahorrar dinero y crear entornos de aprendizaje seguros.
Les acompaña un nuevo servicio digital para ayudar a los líderes del sector en su planificación tecnológica. Esto comparará su tecnología con los estándares digitales, sugerirá áreas de mejora y ofrecerá pasos prácticos y orientación de implementación de autoservicio.
Las escuelas en Blackpool y Portsmouth, ambas áreas prioritarias de inversión en educación, pondrán a prueba estos servicios en el período de otoño de 2023, antes de su implementación en todo el país.
