Open Data and the AI Black Box
Open Data and the AI Black Box
El artículo sostiene que la actual dominación de datos de entrenamiento secretos y sesgados en la inteligencia artificial perpetúa la opresión sistémica y socava la rendición de cuentas democrática. Al depender de algoritmos de "caja negra" entrenados con datos obtenidos mediante vigilancia o explotación, sectores críticos como la aplicación de la ley y la atención médica corren el riesgo de automatizar sesgos raciales y clasistas. Esta falta de transparencia permite que entidades poderosas oculten prácticas discriminatorias tras la fachada de un código objetivo, dificultando la impugnación de decisiones que perjudican desproporcionadamente a las comunidades marginadas. Se presenta la adopción de Datos Abiertos mantenidos colaborativamente como la solución esencial para romper estos sistemas opacos y garantizar el desarrollo ético de la inteligencia artificial. A diferencia de los conjuntos de datos propietarios, a menudo derivados de fuentes cuestionables, los datos abiertos fomentan la transparencia, permitiendo que expertos y comunidades identifiquen, corrijan y mitiguen eficazmente los sesgos. Este enfoque cambia el paradigma de consumo pasivo a custodia activa, permitiendo que voces diversas participen en la curación de datos y asegurando que las herramientas de IA sirvan al interés público en lugar de reforzar los desequilibrios de poder existentes. Para los defensores de los datos abiertos, esta perspectiva destaca el vínculo crítico entre la transparencia de los datos y la justicia social. Demuestra que los datos abiertos no son simplemente un estándar técnico, sino un mecanismo vital para democratizar la tecnología y resistir la explotación. Al hacer que los datos sean accesibles y modificables, la sociedad puede aprovechar el potencial creativo de la ciencia abierta para construir herramientas equitativas, particularmente en campos que salvan vidas como la medicina, asegurando así que el futuro de la IA beneficie a todas las personas y no solo a unos pocos privilegiados.
Fuente: eff.orgPublicado el 2023-01-20
Noticias relacionadas
- Getty Images Sues Stability AI for Scraping Millions of Copyrighted Photos
- Governments knew what caused October communication outage but never told the public
- 64% de mexicanos siente que su ciudad es insegura, señala encuesta del Inegi
- WHO data portal shows highest prevalence rates of NCD and mental health in Small Island Developing States | Health
- Gobierno Abierto: UNL recibió un premio internacional