Shedding Light on Algorithms: Civil Rights Advocates and Lawmakers Call for Changes to Connecticut's FOI Laws to Address AI Bias Concerns | CT News Junkie
Los defensores de los derechos civiles y los legisladores están instando a Connecticut a reformar sus leyes de libertad de información para garantizar la transparencia en el uso que el estado hace de los algoritmos y la inteligencia artificial. Un informe reciente destaca preocupaciones significativas sobre el hecho de que los sistemas automatizados de toma de decisiones en educación y contratación pueden perpetuar inequidades de larga data debido a datos defectuosos o sesgos inherentes. El principal obstáculo para la rendición de cuentas es la falta actual de información clara, ya que las agencias suelen denegar las solicitudes de registros públicos citando exenciones por secreto comercial, lo que deja a los ciudadanos sin saber cómo se toman decisiones críticas que afectan sus vidas. Este tema es altamente relevante para los datos abiertos, ya que subraya la necesidad de la transparencia algorítmica para la supervisión democrática. Sin acceso a la lógica subyacente y a los conjuntos de datos del software gubernamental, el público no puede verificar si los procesos automatizados son justos o discriminatorios. Las iniciativas genuinas de datos abiertos deben ir más allá de los números crudos e incluir el contexto explicativo de los sistemas automatizados, asegurando que el público comprenda los criterios utilizados en la administración pública en lugar de depender de tecnologías opacas tipo "caja negra". Para abordar estas lagunas, se está avanzando un proyecto de ley bipartidista que exige un inventario público de los sistemas automatizados y establece directrices para su uso ético. Aunque esta medida legislativa tiene como objetivo crear las salvaguardas necesarias antes de que la dependencia de la IA se consolide, actualmente no resuelve las exenciones específicas de la ley de libertad de información que obstaculizan el acceso a los detalles técnicos. Los promotores argumentan que establecer una comprensión integral de cómo funcionan estas herramientas es esencial para generar confianza y garantizar que la gobernanza basada en datos sirva al interés público de manera equitativa.
Fuente: ctnewsjunkie.comPublicado el 2023-04-26