Las empresas de tecnología podrían verse obligadas a eliminar videos de personas que cruzan el Canal de la Mancha “que muestran esa actividad bajo una luz positiva”, mientras que los ejecutivos podrían enfrentar sanciones penales por no proteger a los niños en línea, según las enmiendas propuestas por el gobierno del Reino Unido al Proyecto de ley de seguridad en línea.
Anunciada en una declaración de la ministra digital Michelle Donelan el 17 de enero, la primera enmienda busca expandir la lista de “delitos prioritarios” del proyecto de ley: aquellos que representan el contenido o actividad ilegal más grave y frecuente en línea, y que las empresas tecnológicas estarán obligadas a cometer. Prevenir proactivamente que las personas estén expuestas, incorporando los delitos de inmigración existentes.
“El uso de métodos altamente peligrosos para ingresar a este país, incluidos barcos no aptos para navegar o pequeños y abarrotados y camiones refrigerados, presenta un gran desafío para todos nosotros”, dijo Donelan. “La situación debe resolverse y no dudaremos en tomar medidas, donde sea que eso pueda tener el mayor efecto, incluso a través de este proyecto de ley, ya que los grupos del crimen organizado utilizan cada vez más las redes sociales para facilitar el cruce de migrantes”.
Agregó que si bien el proyecto de ley ya contiene disposiciones de responsabilidad penal para los altos directivos por no cumplir con los avisos de información del organismo de control de daños en línea Ofcom, la segunda enmienda introducirá responsabilidad penal para los jefes que no cumplan con un aviso para “poner fin a la contravención”. [of the law]”, que está diseñado para hacer frente a los casos en que los altos directivos han “consentido o confabulado” para ignorar los requisitos exigibles del proyecto de ley en torno a la protección de los niños.
“Si bien esta enmienda no afectará a aquellos que han actuado de buena fe para cumplir de manera proporcionada, le da a la ley fuerza adicional para generar cambios y garantizar que las personas rindan cuentas si no protegen adecuadamente a los niños”, dijo.
Magdalena Zima, asociada del equipo de litigios penales del bufete de abogados Kingsley Napley, dijo que esta enmienda hará que la legislación sea más efectiva para forzar el cumplimiento: tener un respaldo legal sólido, no solo para garantizar que actúen legalmente cuando se promulgue el proyecto de ley, sino también para que no pongan a sus empleados en riesgo de enjuiciamiento”.
Sin embargo, el fundador de Tech London Advocates y Global Tech Advocates, Russ Shaw, dijo que la enmienda de responsabilidad penal era una distracción: “No está claro cómo se responsabilizaría penalmente a los directores y plantea una serie de cuestiones legales que complicarían aún más el proceso. La adición de la ‘responsabilidad del director’ es una propuesta extrema y no resolvería los problemas actuales”.
Agregó que si bien las empresas de redes sociales “necesitan aumentar la inversión para resolver el problema… En última instancia, las sanciones deben tener un impacto para cambiar el comportamiento, pero no deben hacerse personales. Es importante que el gobierno ahora se haga cargo de lo que es una legislación tecnológica altamente sensible, polémica y significativa”.
Nuevos delitos prioritarios en torno a la inmigración
Los delitos de inmigración que se incorporan a través de la enmienda del gobierno incluyen la sección 2 de la Ley de Esclavitud Moderna, que convierte en un delito prioritario organizar o facilitar el viaje de otra persona en línea, y la sección 24 de la Ley de Inmigración, que se ocupa de la entrada ilegal al Reino Unido. .
“Aunque los delitos del artículo 24 no pueden cometerse en línea, el párrafo 23 del Anexo [7 in the Online Safety Bill] establece que el contenido ilegal prioritario incluye los delitos incipientes relacionados con los delitos que se enumeran”, dijo Donelan.
“Por lo tanto, ayudar, instigar, asesorar, conspirar, etc., esos delitos mediante la publicación de videos de personas que cruzan el canal que muestran que la actividad en una luz positiva podría ser un delito que se comete en línea y, por lo tanto, cae dentro de lo que es contenido ilegal prioritario”.
Al tratar proactivamente los delitos prioritarios, las empresas deben diseñar características, funcionalidades y algoritmos que impidan que los usuarios los encuentren en primer lugar, y trabajar para minimizar el tiempo que el contenido está disponible en sus servicios.
Donelan agregó que “el resultado de esta enmienda sería, por lo tanto, que las plataformas tendrían que eliminar de manera proactiva ese contenido” relacionado con los cruces del Canal de la Mancha.
James Baker, gerente de campaña y defensa de Open Rights Group (ORG), dijo: “El gobierno quiere evitar que las personas vean videos que podrían inspirarlos a intentar cruzar. Sin embargo, las personas que estén pensando en cruzar estarán fuera del Reino Unido y verán videos de fuera de la jurisdicción del Reino Unido.
“¿Significará esto ahora que los videos del RNLI de botes salvavidas que rescatan a personas se enfrentan a la censura? ¿El gobierno solo está tratando de ocultarnos el problema a nosotros y a nuestras redes sociales?”.
Monica Horten, gerente de políticas para la libertad de expresión en ORG, agregó que también existe una pregunta fundamental sobre cómo los proveedores de plataformas detectan e identifican este contenido en una publicación en las redes sociales.
“Podrían bloquear las cuentas de los traficantes de personas, pero lo más probable es que, en el clima político actual, busquen publicaciones que contengan imágenes de lo que el gobierno no quiere ver (personas que llegan a las playas del Reino Unido en botes pequeños) y las eliminen”, dijo. dicho.
“Lo más probable es que confíen en técnicas de inteligencia artificial o sistemas de moderación de contenido basados en hashing perceptivo. Ambas opciones conllevan riesgos de sobrebloqueo. Las publicaciones legales podrían ser censuradas, con serias implicaciones para el discurso público en el Reino Unido”.
Horten agregó que la sección 25 de la Ley de Inmigración, que se relaciona con los delitos por ayudar a la inmigración ilegal, ya se ha incluido en el Anexo 7 desde al menos septiembre de 2022, lo que planteó dudas en ese momento sobre si el contenido relacionado con los cruces del Canal tendría que eliminarse. por empresas tecnológicas.
En su declaración, Donelan también hace referencia a una enmienda anterior al proyecto de ley presentado por la diputada de Dover Natalie Elphicke en diciembre de 2022, que buscaba abordar la inmigración ilegal a través del Proyecto de ley de seguridad en línea al agregar una cláusula que, según los Avisos de enmienda publicados en línea, “crearía un nuevo delito penal compartir intencionalmente una fotografía o película que facilite o promueva la esclavitud moderna o la inmigración ilegal”.
Dados estos desarrollos previos, dijo Horten, mientras que ORG sospechaba anteriormente que el gobierno estaba buscando usar el proyecto de ley para restringir los cruces, la declaración de Donelan “confirmó nuestros temores” sobre lo que significaban en la práctica.
ORG y otros grupos de la sociedad civil pidieron previamente una revisión completa del proyecto de ley de seguridad en línea en septiembre de 2022, sobre la base de que sus medidas amenazan la privacidad y la libertad de expresión.
En marzo de 2022, el gobierno del Reino Unido fue criticado por abogados, grupos de derechos humanos y organizaciones de apoyo a los inmigrantes por gastar decenas de millones de libras en tecnologías de vigilancia fronteriza para disuadir y ayudar a castigar a los inmigrantes que cruzan el Canal de la Mancha, en lugar de utilizar esos mismos recursos para proporcionar rutas seguras y legales hacia el país.