'Model Collapse': Future AI generations may start speaking gibberish you don't understand

Esta investigación revela que los sistemas de inteligencia artificial (IA) se degradan con los ciclos sucesivos de entrenamiento, produciendo salidas de menor calidad que contaminan el ecosistema digital. Esta "contaminación cognitiva" limita la diversidad de datos disponibles para futuros modelos, creando barreras para los nuevos participantes y consolidando las ventajas de quienes ya tienen acceso a grandes volúmenes de datos. Los hallazgos son críticos para los defensores de los datos abiertos, ya que señalan una posible crisis en la sostenibilidad de los datos. La afluencia de contenido sintético amenaza con contaminar los conjuntos de datos públicos, haciendo cada vez más difícil entrenar modelos de IA precisos y diversos utilizando raspados web de fuentes abiertas. En consecuencia, la dependencia de fuentes de datos públicas y abiertas puede volverse obsoleta o poco confiable. Esto subraya la necesidad urgente de una procedencia transparente de los datos y de mecanismos robustos de filtrado dentro de la comunidad de datos abiertos, para preservar la integridad de los materiales de entrenamiento frente al ruido generado por la IA.

Fuente: businesstoday.in
Publicado el 2023-06-21

'Model Collapse': Future AI generations may start speaking gibberish you don't understand

Noticias relacionadas