UK warned over lack of transparency on use of AI to vet welfare claims
UK warned over lack of transparency on use of AI to vet welfare claims
El Departamento de Trabajo y Pensiones del Reino Unido enfrenta una severa revisión legal y ética por su uso opaco de la inteligencia artificial en la detección de fraude en las prestaciones sociales. El Comisionado de Información ha advertido que el departamento corre el riesgo de incurrir en desacato a la corte al negarse a revelar detalles esenciales sobre sus algoritmos de aprendizaje automático. Esta falta de transparencia impide la rendición de cuentas pública y plantea serias preocupaciones sobre la equidad y la precisión de las decisiones automatizadas que determinan la supervivencia financiera de las personas. Este problema es críticamente relevante para los datos abiertos, ya que destaca la urgente necesidad de transparencia algorítmica en la toma de decisiones del sector público. Sin acceso abierto a los datos, la lógica y las métricas de rendimiento de estos sistemas de inteligencia artificial, los ciudadanos no pueden comprender por qué se suspenden las prestaciones ni impugnar resultados discriminatorios. La negativa del departamento a compartir información socava el principio fundamental de que los datos gubernamentales deben ser accesibles para garantizar la confianza y prevenir la marginación de poblaciones vulnerables. En última instancia, la situación subraya que la eficiencia tecnológica no puede prevalecer sobre el derecho a saber cómo los sistemas automatizados impactan a la sociedad. Los grupos de libertades civiles y los defensores de la lucha contra la pobreza infantil enfatizan que la inteligencia artificial opuesta plantea un alto riesgo de resultados injustos y discriminatorios contra minorías étnicas, personas mayores y personas con discapacidad. Los verdaderos datos abiertos requieren más que simplemente publicar estadísticas; exigen explicaciones claras y accesibles sobre el funcionamiento de los algoritmos para proteger los derechos humanos y garantizar la justicia en el sistema de bienestar social.
Fuente: theguardian.comPublicado el 2023-09-04