Predictive policing algorithms are racist. They need to be dismantled.
Predictive policing algorithms are racist. They need to be dismantled.
El artículo ilustra cómo los sistemas de datos pueden perpetuar el racismo estructural, rastreando el problema hasta incidentes en los que los estudiantes fueron arrestados de manera desproporcionada y, posteriormente, señalados por algoritmos sesgados. Esta historia personal subraya una verdad más amplia: los datos a menudo se utilizan como arma contra las comunidades negras, transformando encuentros individuales en marcas de criminalidad de por vida. La narrativa destaca el papel crucial del activismo de datos para exponer estas injusticias y desafiar la infraestructura que las alimenta. Las herramientas de policía predictiva, que analizan tendencias de ubicación o historiales personales para predecir conductas criminales, se muestran como reforzadoras de las desigualdades existentes. Dado que estos algoritmos se basan en datos históricos de arrestos, reflejan inherentemente la sobrepolicía de grupos minoritarios. En consecuencia, incluso cuando la raza no se incluye explícitamente, variables proxy como los códigos postales y el estatus socioeconómico permiten que estos sistemas discriminen eficazmente. Este mecanismo crea un ciclo de retroalimentación en el que las comunidades marginadas son continuamente señaladas y monitoreadas, validando la premisa de que la tecnología en sí misma está fundamentalmente defectuosa. Esta perspectiva es vital para la comunidad de datos abiertos, ya que revela el daño real causado por la toma de decisiones algorítmicas opacas. Demuestra que las iniciativas de datos abiertos deben abordar no solo la accesibilidad, sino también la equidad y el potencial de sesgo dentro de los conjuntos de datos. Comprender estas dinámicas es esencial para desarrollar prácticas éticas de datos que desmantelen, en lugar de profundizar, la canalización de la escuela a la prisión y otras inequidades estructurales.
Fuente: technologyreview.comPublicado el 2023-10-11