El gobierno del Reino Unido ha publicado un borrador de sus prioridades estratégicas para Ofcom en virtud de la Ley de Seguridad en Línea (OSA), que el regulador tendrá que considerar cuando comience a hacer cumplir las nuevas reglas a partir de la primavera de 2025.
Aprobadas en octubre de 2023, las obligaciones impuestas por la OSA a las plataformas digitales significan que deben evitar que los niños accedan a contenidos dañinos o inapropiados para su edad (como pornografía o publicaciones que promuevan la autolesión); hacer cumplir los límites de edad e implementar medidas de control de la edad; y realizar evaluaciones de los peligros que sus servicios representan para los niños. También incluye la obligación de eliminar rápidamente el contenido ilegal o de evitar que aparezca.
Si bien se prevé que la Declaración de Prioridades Estratégicas (SSP) esté finalizada a principios de 2025, la versión actual, publicada el 20 de noviembre de 2024, contiene cinco áreas de enfoque, que incluyen seguridad desde el diseño, transparencia y rendición de cuentas, regulación ágil, inclusión y resiliencia e innovación. en tecnologías de seguridad en línea.
Según la OSA, Ofcom tendrá que informar al secretario de Estado sobre las acciones que ha tomado en contra de estas prioridades para garantizar que las leyes brinden espacios en línea más seguros, que luego se utilizarán para informar los próximos pasos.
“Mantener a los niños seguros en línea es una prioridad para este gobierno. Por eso hoy seré el primer secretario de Estado en ejercer el poder de establecer mis prioridades estratégicas”, afirmó el secretario de Tecnología, Peter Kyle.
“Desde incorporar la seguridad a los sitios de redes sociales desde el principio hasta aumentar la transparencia de las plataformas, estas prioridades nos permitirán monitorear el progreso, recopilar evidencia, innovar y actuar cuando las leyes no sean suficientes. Si bien la Ley de Seguridad en Línea sienta las bases para crear mejores experiencias en línea, debemos seguir el ritmo de la tecnología a medida que evoluciona para crear una Internet más segura, especialmente para los niños”.
Bajo su prioridad de seguridad por diseño, el gobierno dijo que los proveedores regulados tendrán que considerar todas las áreas de sus servicios y modelos de negocios, incluido el papel de los algoritmos, al considerar cómo proteger a sus usuarios en línea, y centrarse en incorporar resultados de seguridad. durante todo el diseño y desarrollo de nuevas características y funcionalidades.
“El gobierno cree que el objetivo debería ser, en primer lugar, evitar que se produzcan daños, siempre que sea posible”, afirmó en la SSP. “Si bien esto es claramente un desafío material, Ofcom tiene importantes poderes a su disposición, incluida la recopilación de información, la auditoría, la aplicación de la ley y los poderes de sanción, para garantizar que los proveedores cumplan con sus obligaciones legales para proteger a los usuarios en línea”.
El gobierno agregó que es crucial continuar construyendo una base de evidencia sobre los daños en línea, incluida la prevalencia y los tipos de contenido dañino, así como la forma en que los niños interactúan con ellos, para promover efectivamente la seguridad desde el diseño.
Para fomentar la confianza y la rendición de cuentas, el gobierno dijo que quiere que Ofcom cree una “cultura de franqueza” a través del régimen de informes de transparencia de los reguladores, lo que debería ayudar a exponer los mayores daños y abordar cualquier problema sistémico que descubran.
“El régimen de informes de transparencia debería resaltar las mejores prácticas y proporcionar ejemplos claros de lo que las plataformas pueden hacer para mantener seguros a sus usuarios”, dijo. “Para garantizar que el público pueda utilizar esta información de manera significativa, los informes de transparencia deben ser claros, fáciles de usar y accesibles.
“Deben tener suficiente detalle y profundidad para garantizar que puedan ser utilizados por los investigadores para mejorar la comprensión de los daños en línea y comprender por qué ocurren, y por las fuerzas del orden para mantener al público seguro”.
Cualquier esfuerzo de transparencia y rendición de cuentas debe incluir la creación de términos de servicio claros y aplicados de manera consistente; hacer que las plataformas rindan cuentas directamente ante sus usuarios; y proporcionar a los forenses acceso a los datos a través de Ofcom tras la muerte de un niño, para que puedan comprender cómo puede haber contribuido la actividad en línea.
Para garantizar la agilidad regulatoria, Ofcom deberá monitorear, evaluar y mitigar los impactos negativos de las nuevas tecnologías, en particular la inteligencia artificial (IA), que pueden usarse para proliferar los daños en línea.
“Ofcom debe identificar y mitigar los riesgos para los usuarios que surgen del intercambio de contenido generado por IA en servicios regulados y el despliegue de IA por parte de servicios regulados en sus plataformas, como sistemas de recomendación de contenido impulsados por IA y herramientas integradas de IA para los usuarios”. dijo.
El SSP dicta además que Ofcom debe fomentar la innovación en tecnología de seguridad: “Según la ley, Ofcom puede recomendar la adopción de tecnologías a los servicios en sus códigos de práctica y orientación para delinear un camino claro que debe seguir la industria para cumplir con los deberes del acto.
“El gobierno será un socio para ayudar a Ofcom a comprender la efectividad de diferentes tecnologías y enfoques y alienta a Ofcom a ser ambicioso en sus recomendaciones y garantizar que mantengan el ritmo de la tecnología a medida que se desarrolla”.
El gobierno destacó específicamente la necesidad de que Ofcom apoye el desarrollo de tecnologías más eficaces para asegurar la edad. Añadió que estas tecnologías tendrían que preservar un alto nivel de privacidad y al mismo tiempo garantizar que los niños estén protegidos en línea.
Cada una de las prioridades estratégicas también describe la necesidad de realizar más investigaciones en una variedad de áreas para ayudar a mejorar la base de evidencia para las acciones de seguridad en línea.
Por lo tanto, el gobierno ha anunciado el lanzamiento de una nueva investigación para explorar los efectos del uso de teléfonos inteligentes y redes sociales en los niños, cuyo objetivo es mejorar la comprensión de los responsables políticos sobre la relación entre el bienestar de los niños y el uso de teléfonos inteligentes, así como ayudar a dirigir futuras acciones gubernamentales.
“Estamos dando el pistoletazo de salida a una investigación que ayudará a construir la base de evidencia que necesitamos para mantener a los niños seguros en línea”, dijo Kyle. “Estoy comprometido a utilizar todas las herramientas a nuestra disposición, desde monitorear el impacto de las nuevas leyes, crear más y mejor evidencia, y trabajar con organizaciones benéficas y activistas de seguridad en línea para lograr este objetivo”.
En abril de 2024, Ofcom publicó su borrador de reglas de seguridad infantil en línea para empresas de tecnología, que les pedía que utilizaran sistemas “robustos” de verificación de edad y moderación de contenido para mantener el material dañino fuera del alcance de los niños en línea.
Los proyectos de códigos incluyen medidas para garantizar el cumplimiento de las empresas de tecnología, incluido el nombramiento de una persona de alto rango responsable del cumplimiento de las obligaciones de seguridad de los niños; una revisión anual por parte del organismo superior de todas las actividades de gestión de riesgos relacionadas con la seguridad de los niños; y un código de conducta para empleados que establece estándares para los empleados en torno a la protección de los niños.