Public Records Request Nets User's Manual For Palantir's Souped-Up Surveillance Software

Public Records Request Nets User's Manual For Palantir's Souped-Up Surveillance Software

El artículo expone a Palantir como una fuerza dominante en el análisis de datos que permite una vigilancia integral al agregar diversas fuentes de información en una única interfaz accesible para las fuerzas del orden. En lugar de centrarse únicamente en delincuentes, el sistema permite a los agentes rastrear a cualquier persona en su base de datos, creando efectivamente una herramienta que monitorea a toda la población. Esta capacidad deriva de la naturaleza propietaria de la empresa, la cual aísla sus operaciones de los requisitos de transparencia y rendición de cuentas que normalmente se esperan de las agencias gubernamentales. Una implicación crítica destacada es la grave falta de supervisión y el potencial de daño debido a datos poco confiables. Se han producido incidentes en los que salidas erróneas del software condujeron a errores violentos, como la identificación de personas inocentes basándose en descripciones incorrectas. A pesar de estos fallos, las agencias suelen conservar estas herramientas debido a su diseño intuitivo y a la dificultad de rescindir contratos a largo plazo. El enfoque en los "datos accionables" oculta problemas subyacentes de calidad, planteando serias preocupaciones éticas sobre la fiabilidad y la justicia de las decisiones tomadas mediante algoritmos opacos. Este contenido es altamente relevante para los defensores de los datos abiertos, ya que ilustra los peligros de los sistemas propietarios de caja negra en los servicios públicos. La reciente publicación de manuales internos de usuarios mediante solicitudes de acceso a registros públicos demuestra que la transparencia sigue siendo alcanzable, incluso cuando los proveedores intentan ocultar sus métodos. Al revelar la magnitud de la recopilación de datos y los mecanismos de vigilancia, esta filtración subraya la necesidad de estándares abiertos y una rigurosa rendición de cuentas en el uso de la tecnología para gobernar y vigilar a los ciudadanos.

Fuente: techdirt.com
Publicado el 2023-03-01