AI used in UK defence review stays unnamed, but is “segregated” from networks - Army Technology
La negativa del gobierno del Reino Unido a revelar las herramientas específicas de inteligencia artificial (IA) utilizadas en su Revisión de Defensa Estratégica pone de manifiesto una tensión crítica entre la seguridad operativa y la necesidad de transparencia en la administración pública. Al invocar exenciones calificadas para proteger capacidades estratégicas, el Estado mantiene ocultos al escrutinio público el origen y los posibles sesgos de los algoritmos. Esta falta de divulgación socava los principios de los datos abiertos, en los que los ciudadanos deberían, idealmente, comprender cómo los sistemas automatizados influyen en decisiones políticas significativas que afectan a la seguridad nacional y a los fondos públicos. A pesar de ocultar la identidad de los proveedores y los detalles de los contratos, los funcionarios confirmaron que la IA opera dentro de una arquitectura de nube estrictamente aislada y segregada. Esta medida técnica tiene como objetivo garantizar la integridad y la seguridad de los datos al impedir la conectividad externa. Sin embargo, este énfasis en ecosistemas cerrados crea un escenario de "caja negra" en el que el funcionamiento interno del sistema de apoyo a la decisiones permanece opaco. Para los defensores de los datos abiertos, esto ilustra una tendencia en la que las preocupaciones de seguridad se utilizan para justificar un acceso limitado a los datos, complicando los esfuerzos por auditar la equidad algorítmica o verificar la integridad del proceso de revisión. Esta situación es relevante para los datos abiertos porque demuestra cómo los datos gubernamentales críticos están cada vez más automatizados y son propiedad de empresas privadas. A medida que la IA media cada vez más entre grandes conjuntos de datos y los resultados de las políticas, la ausencia de transparencia sobre estas herramientas amenaza la rendición de cuentas democrática. La revisión sirve como un estudio de caso sobre las implicaciones más amplias de la implementación de tecnología opaca en el sector público, sugiriendo que, sin marcos claros para la divulgación algorítmica, la confianza pública en la gobernanza basada en datos puede erosionarse significativamente.
Source: army-technology.comPublished on 2024-11-20