Las organizaciones del sector público deben adoptar un enfoque iterativo de la ética de los datos que abarque todas las etapas de un proyecto, desde la recopilación inicial de datos hasta la implementación en vivo y más allá, para que las lecciones aprendidas puedan incorporarse verdaderamente en el trabajo futuro, dice el especialista en ética de datos Haroon. Ahmed.
Ahmed, socio comercial para la capacidad de datos en la empresa de entrega de tecnología del sector público Made Tech, dice que un enfoque importante para Made Tech es integrar la ética de datos en cada proyecto en el que trabaja, a lo que se refiere como “ética por diseño”.
Él le dice a Computer Weekly que, con demasiada frecuencia, las organizaciones del sector público simplemente ignoran la ética de los datos porque se percibe como demasiado polémica, complicada o que consume mucho tiempo. También señaló que con los gobiernos en general, pero con el gobierno del Reino Unido en particular, no existe una dirección o enfoque claro y estandarizado para la ética de los datos.
“Tal vez no puedas [adopted standardised approaches] porque hay tanta variación en los tipos de trabajo que hacen los diferentes departamentos…[but] por lo general, los problemas de ética de datos surgen cuando ya es un poco tarde, cuando las cosas ya han salido mal”, dice.
Para superar esto y detectar cualquier problema desde el principio, Ahmed dice que las organizaciones deben pensar en la ética de las entradas y fuentes de datos desde el comienzo del proceso.
“El punto de partida es observar todo el recorrido de los datos. Así que está mirando, ¿cuáles son sus fuentes de datos? ¿Quién tiene los derechos sobre esas fuentes de datos? ¿Hay alguna limitación en las fuentes de datos?” dice, y agrega que también debe haber claridad sobre por qué se recopilan y procesan los datos en primer lugar.
A partir de aquí, dice que las organizaciones deberían comenzar a medir el efecto de los datos en diferentes datos demográficos, para que puedan ver dónde están produciendo impactos tanto positivos como negativos.
Por ejemplo, las organizaciones deben analizar qué tipos de sesgos se “crean inadvertidamente” en sus modelos, así como a través de las formas en que recopilan, comparten y utilizan los datos.
“¿Hay prácticas que está desarrollando que refuerzan los estereotipos o las desigualdades que pueden existir dentro de los datos? Bueno, mire las fuentes de datos, quién los recopila, ¿cómo los recopila? Ahmed dice.
“Mira los datos que pueden propagar algunas falsedades. Muchas veces estructuramos los datos en torno a opiniones; por ejemplo, si extrae datos de las redes sociales, ¿qué tipo de información recopila? ¿Cuánto puedes confiar en él, qué es noticia y qué no lo es? La mayoría de las veces, sesgo [is introduced] en la forma en que ha recopilado los datos, así que mire sus métodos de investigación”.
Ahmed dice que una vez que se identifican los impactos negativos, las organizaciones deben pasar inmediatamente a pensar en la mitigación: “Es solo hacerse preguntas claras y transparentes sobre cómo está configurando el proyecto… también hay un nivel de prueba y rigor que debe poner en cuando estas construyendo. Tenga betas privadas, desarróllelas, pruébelas antes de salir y lanzar algo en vivo que luego le dará una mala reputación y aplastará todo”.
Propósito de comunicación
Ahemd agrega además que la necesidad de claridad y transparencia es aún más importante para las organizaciones del sector público que desarrollan servicios orientados a los ciudadanos, y que idealmente se debe consultar a los miembros del público sobre cualquier cosa que se esté construyendo.
Dando el ejemplo del trabajo de Made Tech con Hackney Council en su plataforma de datos, Ahmed dice que se consulta virtualmente al público al menos cada dos semanas, para que quien quiera presentarse pueda estar actualizado sobre el progreso y se le muestren los detalles del trabajo. , como los impactos que está teniendo o cómo el sistema procesa los datos.
“Cuando comunica abiertamente su propósito, cuando está abierto sobre cómo está haciendo las cosas, cómo se han utilizado los datos, infunde lo más valioso al hacer proyectos de datos, que es la confianza”, dice. “Probablemente estemos en un lugar donde las personas no confían en las organizaciones o el gobierno con sus datos, y ese es un mal lugar para estar… por lo que la transparencia, la apertura, el propósito de comunicación, la participación de las personas es bastante clave”.
Ahmed agrega que, incluso en situaciones en las que no es posible consultar al público, por ejemplo, cuando los sistemas se construyen con fines policiales o de inteligencia, o solo internamente para uso de los funcionarios públicos, la apertura entre las partes interesadas internas sigue siendo muy importante. .
Todo esto también debe quedar documentado: “Para hacer [ethical] marco que sea adecuado, para lo que está haciendo como organización, siga refiriéndose a él, actualícelo, mida sus resultados, aprenda de él… la pérdida potencial de ingresos o reputación para una organización o departamentos gubernamentales es enorme si sale mal. Con ética, la victoria no es hacer las cosas mal, la victoria es tener un impacto menos negativo o un impacto más positivo”.
Ahmed agrega que si bien los marcos éticos deben elaborarse al comienzo de cualquier proyecto o cuerpo de trabajo para que puedan consultarse a medida que avanza el trabajo, también deben ser “documentos vivos” que se actualicen con las lecciones aprendidas.
Dando el ejemplo del marco de ética de datos del gobierno del Reino Unido publicado en 2018, Ahmed dice: “No puedo darte ningún ejemplo de dónde se ha utilizado”. Agregó que la mayoría de las veces, dichos marcos se crean, publican y luego “estacionan”.
“A medida que aprende más, a medida que cambia su negocio y su organización, a medida que adquiere más datos y madura digitalmente. [Frameworks] deberían actualizarse, y debería haber propiedad sobre eso”, dice, y agrega que si bien muy pocos clientes del sector público acuden a Made Tech con solicitudes específicas para considerar la ética de los datos, “nadie está nunca en contra… o lo rechaza” cuando se aborda el tema.
“Se trata de que los departamentos piensen de manera proactiva en incorporarlo a los proyectos, y no solo en los que estamos haciendo con ellos, sino que hacen toneladas de proyectos internamente”, dice.
Tomar estos pasos debería, según Ahmed, ayudar a crear una “cultura de ética de los datos” para que las organizaciones ya no los vean como una barrera o los traten como una ocurrencia tardía.