Using bigger AI training data sets may produce more racist results
Using bigger AI training data sets may produce more racist results
Contrario a la creencia generalizada en la industria de que escalar los datos mejora la equidad de la IA, una nueva investigación demuestra que conjuntos de entrenamiento más grandes pueden, de hecho, amplificar los sesgos raciales en la inteligencia artificial. Al comparar modelos entrenados con conjuntos de datos de diferentes magnitudes, los investigadores encontraron que el sistema que utilizaba más datos tenía una probabilidad significativamente mayor de asociar rostros negros con categorías criminales en comparación con el que usaba menos datos. Este hallazgo desafía directamente la suposición de que la cantidad conduce inherentemente a una mejor diversidad, sugiriendo en cambio que la composición subyacente de los datos extraídos de internet contiene prejuicios inherentes que se refuerzan en lugar de diluirse con el volumen. Este descubrimiento es críticamente relevante para el movimiento de datos abiertos, ya que destaca la urgente necesidad de un control riguroso de la calidad en los recursos de entrenamiento públicamente disponibles. El estudio indica que muchas organizaciones no realizan verificaciones éticas básicas para eliminar contenido odioso o sesgado, incluso cuando dichos datos son accesibles. Dado que los conjuntos de datos de código abierto permiten el escrutinio público, ofrecen una oportunidad única para identificar y corregir estas fallas sistémicas. Sin una curación proactiva y transparencia, la comunidad de datos abiertos corre el riesgo de perpetuar daños bajo la apariencia de neutralidad, lo que hace esencial priorizar la ética de los datos sobre la mera escala. Además, la investigación subraya los peligros de los conjuntos de datos propietarios y cerrados, que permanecen ocultos a la evaluación pública y pueden albergar sesgos aún más profundos. Los autores argumentan que la transparencia es el único camino viable hacia la rendición de cuentas, instando a las grandes corporaciones tecnológicas a emular la apertura de las iniciativas sin fines de lucro. Al abogar por un acceso más amplio a los datos de entrenamiento, el estudio refuerza el principio de los datos abiertos de que la supervisión pública es necesaria para mitigar los resultados algorítmicos dañinos. En última instancia, garantizar un desarrollo ético de la IA requiere no solo más datos, sino fuentes de datos de mayor calidad, transparentes y críticamente examinadas.
Fuente: newscientist.comPublicado el 2023-07-14