Una investigación de la Universidad Estatal de Pensilvania (Penn State) indica que los sistemas de inteligencia artificial (IA) reflejan los sesgos presentes en sus datos de entrenamiento, lo que a menudo perpetúa resultados injustos debido a la falta de transparencia por parte de los usuarios sobre la composición de los datos y el perfil de los entrenadores. Sin esta información, las personas no pueden evaluar con precisión la equidad algorítmica ni tomar decisiones informadas sobre el uso de la IA, lo que puede generar daños antes de que los usuarios sean conscientes de las limitaciones del sistema. El estudio demuestra que mostrar indicios de diversidad racial en las interfaces de IA mejora significativamente las expectativas de los usuarios respecto a la equidad y la confianza. Cuando los usuarios observan representaciones visuales de una representación racial equilibrada tanto en los conjuntos de datos de entrenamiento como en los trabajadores que etiquetaron los datos, desarrollan una comprensión más precisa del alcance del sistema. Esta transparencia permite a los usuarios ajustar sus expectativas y evaluar críticamente si la herramienta es adecuada para sus necesidades específicas antes de confiar en sus resultados. Este hallazgo es crucial para la defensa de los datos abiertos, ya que resalta la necesidad de una procedencia transparente de los datos en el desarrollo de la IA. Los principios de datos abiertos deben ir más allá de la simple disponibilidad e incluir una documentación clara sobre la diversidad demográfica y los procesos de etiquetado. Al exigir estas divulgaciones, los desarrolladores pueden empoderar a los usuarios para identificar posibles sesgos de manera temprana, asegurando que las herramientas de IA se utilicen de manera responsable y que las prácticas de datos se alineen con los estándares éticos de equidad y responsabilidad.
Source: psu.eduPublished on 2024-10-20