Research shows AI image generators could be their own demise
Investigaciones recientes revelan que entrenar generadores de imágenes con IA en datos sintéticos provoca un rápido deterioro en la calidad de las salidas, un fenómeno similar a la endogamia genética. A medida que los modelos consumen sus propias imágenes generadas, la llamada "canibalización por IA" provoca un colapso, haciendo que las iteraciones futuras sean cada vez más absurdas. Esta limitación inherente sugiere que, sin material fuente creado por humanos, la IA generativa no puede mejorar de manera sostenible ni adaptarse a nuevas tendencias. La prevalencia del contenido generado por IA en línea exacerba este riesgo, ya que los raspadores (scrapers) inevitablemente recopilan estas imágenes para su entrenamiento. En consecuencia, los desarrolladores podrían enfrentar costos crecientes para identificar y filtrar los datos sintéticos, o bien podrían descubrir que los conjuntos de datos actuales centrados en humanos ya son suficientes para mantener la calidad. Esto destaca una dependencia crítica de la creatividad humana auténtica, ya que los modelos no pueden evolucionar indefinidamente alimentándose de sus propias salidas. Este artículo es relevante para los datos abiertos porque subraya la necesidad de la procedencia y curación de datos. Implica que los conjuntos de datos abiertos utilizados para el entrenamiento de IA deben ser rigurosamente filtrados para excluir contenido sintético y prevenir la degradación de los modelos. Además, apoya el desarrollo de estándares abiertos para las credenciales de contenido, permitiendo a la comunidad distinguir entre el trabajo generado por humanos y el generado por máquinas, preservando así la integridad de los recursos de datos abiertos para el avance tecnológico futuro.
Source: creativebloq.comPublished on 2024-08-06