Using bigger AI training data sets may produce more racist results
Using bigger AI training data sets may produce more racist results
Contrario a la creencia predominante en la industria de que escalar los volúmenes de datos reduce inherentemente el sesgo, investigaciones recientes demuestran que conjuntos de entrenamiento más grandes pueden, de hecho, exacerbar el sesgo en la inteligencia artificial. Al comparar conjuntos de datos de diferentes tamaños, los investigadores descubrieron que los modelos entrenados con significativamente más datos tenían una probabilidad sustancialmente mayor de asociar a personas negras con categorías criminales. Esto desafía la suposición de que la cantidad conduce a la calidad, revelando en cambio que el mero volumen de datos extraídos de internet a menudo amplifica los prejuicios sociales existentes en lugar de diluirlos. Este fenómeno ocurre porque el aumento de escala no garantiza diversidad; en cambio, frecuentemente incorpora una mayor concentración de contenido odioso o agresivo encontrado en subconjuntos específicos de sitios web. El estudio indica que los conjuntos de datos más grandes contienen estadísticamente más discurso dirigido, lo que lleva a resultados más discriminatorios en tareas de clasificación facial. En consecuencia, simplemente añadir más datos sin una curación rigurosa no aborda los sesgos fundamentales, lo que sugiere que el actual paradigma de "más es mejor" puede estar dañando activamente la equidad de los sistemas de inteligencia artificial de código abierto y comerciales. Los hallazgos son críticos para la comunidad de datos abiertos, ya que destacan la urgente necesidad de verificaciones básicas de calidad y transparencia en los materiales de entrenamiento. Si bien los conjuntos de datos abiertos permiten el escrutinio, muchas corporaciones dependen de datos cerrados y no examinados que pueden ser aún más sesgados. Esto subraya la importancia de abogar por prácticas de datos abiertos y auditables, ya que la visibilidad pública es el único mecanismo actual para identificar y mitigar estas peligrosas trampas de escalabilidad en la inteligencia artificial.
Fuente: newscientist.comPublicado el 2023-07-20