New Data On London Metro Police Facial Recognition Tech Shows It's Still Wrong 96 Percent Of The Time
La tecnología de reconocimiento facial de la Policía Metropolitana de Londres demuestra una fiabilidad catastrófica, identificando erróneamente a miembros inocentes del público en el 96 por ciento de las coincidencias entre 2016 y 2018. A pesar de una tasa de fracaso casi total y de un historial de falsos positivos, la fuerza policial continúa desplegando el sistema, planteando serias preocupaciones éticas sobre su utilidad práctica frente a las importantes libertades civiles que vulnera. Las implicaciones para la privacidad de los datos son profundas, ya que esta tecnología crea efectivamente una base de datos de vigilancia de rostros de personas no delincuentes. Esta práctica recibe críticas de legisladores que consideran inaceptable la acumulación de datos biométricos de personas inocentes, pero los organismos reguladores han fracasado en restringir su uso. La falta de intervención política sugiere una tolerancia preocupante hacia los errores automatizados que afectan desproporcionadamente a comunidades marginadas, incluidos niños que han sido detenidos erróneamente. Este caso es críticamente relevante para el activismo por los datos abiertos porque destaca los peligros de desplegar algoritmos opacos y no validados en la seguridad pública. Subraya la urgente necesidad de transparencia, auditorías independientes rigurosas y estrictos marcos de responsabilidad antes de que estas herramientas se integren en la infraestructura estatal. Sin escrutinio abierto y consentimiento público, estos sistemas corren el riesgo de normalizar la vigilancia masiva y erosionar la confianza en las instituciones democráticas.
Fuente: techdirt.comPublicado el 2023-03-04