Predictive policing algorithms are racist. They need to be dismantled.

El artículo rastrea los orígenes del activismo basado en datos hasta un arresto traumático durante la escuela secundaria, ilustrando cómo la mala conducta policial histórica alimenta directamente la desigualdad sistémica. Esta experiencia personal motivó al cofundador de Data for Black Lives a exponer cómo los datos son utilizados como armas contra las comunidades negras, desplazando el enfoque de la violencia a nivel callejero hacia las consecuencias a largo plazo del sesgo algorítmico dentro del sistema de justicia penal. Las herramientas de policía predictiva, que pronostican ubicaciones del crimen o riesgos de reincidencia individual, se muestran como perpetuadoras del racismo a través de entradas defectuosas. Dado que las tasas de arresto afectan desproporcionadamente a personas negras, estos algoritmos aprenden de datos históricos sesgados, automatizando efectivamente la discriminación. Incluso sin variables raciales explícitas, proxies socioeconómicos como códigos postales y niveles educativos actúan como sustitutos de la raza, asegurando que los grupos marginados sigan siendo objeto de una vigilancia excesiva y evaluados injustamente por herramientas de evaluación previa al juicio y de sentencias. Esta narrativa es crítica para la comunidad de datos abiertos, ya que destaca los peligros de los algoritmos opacos y no examinados en la seguridad pública. Subraya la urgente necesidad de transparencia, auditorías rigurosas y prácticas de datos inclusivas para prevenir que los sistemas automatizados refuercen los prejuicios históricos. Comprender estos mecanismos permite a los profesionales de datos abogar por estándares éticos que desmantelen, en lugar de digitalizar, el conducto escolar-prisión.

Source: technologyreview.com
Published on 2023-12-13

Phi-2: The surprising power of small language models »

Datos Abiertos (Open data)

Related news