New Data On London Metro Police Facial Recognition Tech Shows It's Still Wrong 96 Percent Of The Time

La tecnología de reconocimiento facial de la Policía Metropolitana presenta una tasa de fallo crítica, identificando de forma errónea a ciudadanos inocentes como criminales. Con una precisión cercana a cero, el sistema genera una cantidad abrumadora de falsos positivos, lo que socava su propósito fundamental de mejorar la seguridad pública. Esta inexactitud persistente sugiere que la tecnología es fundamentalmente inadecuada para su despliegue operativo, planteando riesgos significativos para las libertades civiles y el debido proceso. Las implicaciones para los datos abiertos revelan una preocupante falta de transparencia y rendición de cuentas en la adopción de tecnologías por parte de las fuerzas del orden. A pesar de la evidencia clara de su mal funcionamiento, las autoridades continúan utilizando el sistema, acumulando datos biométricos sensibles de la población en general. Esta práctica plantea serias preocupaciones éticas sobre la minimización de datos y el potencial de perfiles discriminatorios, afectando particularmente a las comunidades marginadas, que enfrentan paradas injustificadas en proporciones desproporcionadas. Este caso es crucial para el movimiento de datos abiertos, ya que destaca los peligros de implementar algoritmos opacos sin una auditoría independiente rigurosa. Subraya la necesidad de informes públicos obligatorios sobre las métricas de rendimiento algorítmico y las tasas de error. Sin dicha transparencia, los ciudadanos no pueden cuestionar eficazmente las decisiones basadas en datos que afectan su libertad, lo que enfatiza la necesidad de marcos legales robustos que regulen los sistemas de toma de decisiones automatizados.

Fuente: techdirt.com
Publicado el 2025-12-26

New Data On London Metro Police Facial Recognition Tech Shows It's Still Wrong 96 Percent Of The Time

Noticias relacionadas