La tecnología de reconocimiento facial de la Policía Metropolitana ha demostrado una tasa de fallo catastrófica, identificando sistemáticamente a ciudadanos inocentes como criminales. En lugar de confirmar su precisión, las solicitudes de información pública revelan que la gran mayoría de las coincidencias son falsos positivos, con algunos casos que muestran una incapacidad casi total para distinguir entre el público general y los individuos buscados. Esta inexactitud persistente sugiere que el sistema es fundamentalmente poco fiable para fines de aplicación de la ley, planteando serias dudas sobre su utilidad práctica. El costo humano de estos fallos técnicos es significativo, provocando paradas e investigaciones erróneas de personas inocentes, incluidos menores. A pesar de la evidencia de errores sistémicos, la policía continúa desplegando esta tecnología, acumulando datos biométricos de personas no delincuentes en el proceso. Aunque las políticas de retención se han ajustado ligeramente para eliminar las imágenes que no coinciden antes, el problema central sigue sin resolverse: el sistema criminaliza efectivamente la interacción ordinaria del público a través de errores algorítmicos, planteando serias preocupaciones sobre las libertades civiles. Esta situación es críticamente relevante en las discusiones sobre datos abiertos, ya que pone de manifiesto los peligros de desplegar sistemas algorítmicos opacos y propensos a errores sin una transparencia o rendición de cuentas rigurosas. La dependencia de la toma de decisiones automatizada defectuosa subraya la necesidad de una gobernanza estricta en torno a la recopilación y el uso de datos biométricos. Sirve como un ejemplo advertencia sobre cómo los marcos de datos abiertos o accesibles pueden facilitar inadvertidamente un exceso de vigilancia cuando las salvaguardias tecnológicas y la supervisión ética son insuficientes, exigiendo un mayor escrutinio sobre cómo las instituciones públicas utilizan las herramientas de identificación automatizada.
Source: techdirt.comPublished on 2024-02-15
Related news
- Hacienda se niega a revelar el supuesto informe de la Abogacía que aprobaría la senda fiscal pese a reclamarlo Transparencia
- De la "herencia recibida" a festejar "la desaceleración", las reacciones políticas ante la inflación del 20,6% en enero
- UAE launches $300 million Falcon Foundation to develop open-source AI
- DHS Secretary Mayorkas personally refused presidential candidate...