El proyecto de ley de seguridad en línea (OSB) “no es lo suficientemente claro y sólido” para hacer frente a varios tipos de contenido dañino pero legal, según afirma un informe del comité parlamentario.
Publicado el 24 de enero de 2022, el informe del comité selecto Digital, Cultura, Medios y Deporte (DCMS) instó al gobierno a abordar de manera proactiva los tipos de contenido que son técnicamente legales, pero que están diseñados específicamente para evadir o subvertir los esfuerzos de moderación de contenido.
Tal como está actualmente, el borrador de OSB impondría un “deber de cuidado” legal a las empresas de tecnología que alojan contenido generado por el usuario o permiten que las personas se comuniquen, lo que significa que estarían legalmente obligadas a identificar, eliminar y limitar de manera proactiva la propagación de ambos. y contenido legal pero dañino, como material de abuso sexual infantil, terrorismo y suicidio.
De lo contrario, el regulador de daños en línea podría recibir multas de hasta el 10% de su facturación, que en diciembre de 2020 se confirmó que era Ofcom.
“Aunque el proyecto de ley toma varios pasos bienvenidos para abordar los daños a los niños, como los deberes para abordar la explotación y el abuso sexual infantil (CSEA), nos preocupa la prevalencia del contenido y la actividad que aparentemente no son capturados por el régimen propuesto”, dijo. dicho.
“Un ejemplo de tal actividad es el breadcrumbing, donde los perpetradores subvierten deliberadamente los umbrales de la actividad delictiva y para la eliminación de contenido por parte de un proveedor de servicios.
“Recomendamos que el gobierno responda a nuestras preocupaciones sobre el riesgo de contenido y actividad que cae por debajo del umbral de actividad delictiva absoluta pero que, sin embargo, forma parte de la secuencia de CSEA en línea. Un punto de partida debería ser replantear la definición de contenido ilegal para agregar explícitamente la necesidad de considerar el contexto como un factor, e incluir explícitamente definiciones de actividad como el pan rallado, en la parte frontal del proyecto de ley”.
Si bien el informe en sí contiene muy poca información sobre cómo detectar o detener el breadcrumbing, recomendó que el gobierno trabaje con “organizaciones benéficas, organizaciones de campañas y grupos de defensa de los niños para identificar, definir y abordar” dicho contenido.
Según un informe reciente de la Sociedad Nacional para la Prevención de la Crueldad hacia los Niños (NSPCC), las “migajas de pan” están diseñadas para facilitar el acceso a material de abuso sexual infantil y permitir que los abusadores se identifiquen entre sí y formen redes. “En muchos casos, los abusadores cargarán o buscarán acceder a material que contenga una gran cantidad de imágenes tomadas antes o después del abuso sexual, formando efectivamente parte de una secuencia que culmina con imágenes o videos que alcanzan el umbral criminal”. dicho.
“En algunos casos, los abusadores los utilizan deliberadamente porque anticipan que el sitio host no eliminará de manera proactiva dichas imágenes”.
El informe del comité DCMS agregó además que otros tipos de violencia contra las mujeres y las niñas, como la “desnudez” habilitada por la tecnología y la pornografía falsa, también deben incluirse en el alcance del daño de OSB. Los parlamentarios dijeron que esto debería hacerse a través de la legislación primaria o incluyéndolos como tipos de contenido dañino en el deber de cuidado de los OSB.
El comité también recomendó que la definición de contenido dañino se amplíe para incluir explícitamente cualquier contenido que “socava o corre el riesgo de socavar los derechos o la reputación de otros, la seguridad nacional, el orden público y la salud o la moral públicas”.
Agregó que Ofcom también debería tener el poder de realizar auditorías de los sistemas de las empresas de tecnología, lo que incluiría la divulgación obligatoria de conjuntos de datos y métricas de rendimiento (incluida la forma en que se utilizan para medir el éxito).
Esto está en línea con los comentarios anteriores de la ex comisionada de información Elizabeth Denham, quien les dijo a los parlamentarios y colegas en septiembre de 2021 que le gustaría ver los poderes de recopilación de información de Ofcom “reforzados por [compulsory] poderes de auditoría” para que pueda “mirar debajo del capó” de los algoritmos de las empresas tecnológicas.
Reporte
En diciembre de 2021, el comité parlamentario conjunto para el borrador de OSB, que se creó para analizar la legislación y proponer mejoras, publicó su propio informe de 193 páginas luego de una investigación de cinco meses, en el que recomendó que el Parlamento debería proporcionar más claridad sobre el deber general de cuidado a través de deberes específicos que establecen explícitamente lo que los proveedores de servicios deben hacer para prevenir daños en línea.
“Recomendamos que se reestructure el proyecto de ley”, dijo. “Debe establecer claramente sus objetivos centrales desde el principio. Esto garantizará la claridad para los usuarios y los reguladores sobre lo que el proyecto de ley está tratando de lograr e informará los deberes detallados establecidos más adelante en la legislación.
“Todo se deriva de esto: el requisito de que Ofcom cumpla con esos objetivos, su poder para producir códigos de práctica obligatorios y estándares mínimos de calidad para las evaluaciones de riesgo a fin de hacerlo, y los requisitos para que los proveedores de servicios aborden y mitiguen los riesgos razonablemente previsibles, seguir esos códigos de práctica y cumplir con esos estándares mínimos”.
Sobre la base de que los principales proveedores de plataformas no cuentan con estructuras de gobierno adecuadas, como lo demuestra el testimonio del jefe global de seguridad de Facebook, Antigone Davis, y otros en noviembre de 2021, el informe también recomendó extender la responsabilidad penal en el proyecto de ley, que Actualmente, Ofcom limita a solo tomar medidas contra los altos directivos en caso de que no se suministre información.
“Recomendamos que un alto directivo a nivel de directorio o subordinado a este sea designado como “controlador de seguridad” y sea responsabilizado por un nuevo delito: el incumplimiento de sus obligaciones como proveedores de servicios regulados cuando existen pruebas claras de abusos repetidos y fallas sistémicas que resultan en un riesgo significativo de daño grave para los usuarios”, dijo.
“Creemos que este sería un último recurso proporcionado para el regulador; como cualquier delito, solo debe iniciarse y demostrarse al final de un proceso legal exhaustivo”.
responsabilidad penal
Si bien el informe del comité de DCMS recomienda que se requiera que los proveedores de servicios designen oficiales de cumplimiento dedicados, solo hace una referencia superficial a las preocupaciones sobre la responsabilidad penal de los altos directivos, y simplemente establece que se necesita una mayor claridad por parte del gobierno en torno a los poderes de ejecución de la OSB.
En respuesta al informe del comité de DCMS, un portavoz de DCMS dijo que el departamento no estaba de acuerdo con las críticas presentadas por los parlamentarios: “Se ha reconocido que el proyecto de ley establece un estándar de oro global para la seguridad en Internet”, dijeron. “Tiene medidas estrictas que incluyen el deber de cuidado para erradicar el abuso sexual infantil, la preparación y el contenido ilegal y dañino.
“También existen reglas estrictas para garantizar que las empresas de tecnología y Ofcom protejan la libertad de expresión y la privacidad de las personas, de modo que el contenido no se elimine sin una buena razón. El proyecto de ley hará del Reino Unido el lugar más seguro para conectarse en línea mientras protege la libertad de expresión. ”