Showing AI just 1000 extra images reduced AI-generated stereotypes
Showing AI just 1000 extra images reduced AI-generated stereotypes
Los generadores de imágenes impulsados por inteligencia artificial, como Stable Diffusion, suelen perpetuar estereotipos occidentales debido a sesgos en los datos de entrenamiento. Este estudio demuestra que incorporar una pequeña colección de fotografías culturalmente específicas de diversas regiones puede mejorar significativamente la representación. Mediante el uso de un ajuste fino con contraste autoaplicado, el modelo aprende a distinguir las representaciones culturales precisas de los estereotipos, corrigiendo eficazmente el sesgo sin necesidad de volver a entrenar el modelo desde cero. El modelo refinado fue percibido por usuarios de los países de origen como generador de contenido menos ofensivo, lo que demuestra que la participación dirigida de las comunidades es una herramienta poderosa para el desarrollo ético de la IA. Este enfoque sugiere que corregir el sesgo cultural en la IA generativa es posible con relativamente pocos recursos, desafiando la suposición de que se requieren conjuntos de datos masivos para lograr una representación equitativa. Esta investigación es fundamental para las iniciativas de datos abiertos, ya que destaca la necesidad de diversificar los conjuntos de datos de entrenamiento para prevenir la homogeneización algorítmica. Aboga por prácticas inclusivas de obtención de datos, en las cuales las comunidades marginadas contribuyan activamente a su representación digital. En última instancia, subraya que los esfuerzos de datos abiertos deben priorizar la precisión cultural y el contexto local para crear tecnologías de IA verdaderamente globales y respetuosas.
Fuente: newscientist.comPublicado el 2024-04-11