Los investigadores advierten que entrenar modelos de IA generativa con datos sintéticos generados por modelos anteriores conduce a lo que se denomina "colapso del modelo", un proceso degenerativo que degrada drásticamente la precisión. A medida que los modelos dependen cada vez más de sus propias salidas, pierden el rastro de hechos menos comunes y se vuelven excesivamente genéricos, produciendo finalmente resultados irrelevantes o carentes de sentido. Este fenómeno destaca una vulnerabilidad crítica en la trayectoria actual del desarrollo de la inteligencia artificial, sugiriendo que confiar exclusivamente en contenido generado por máquinas crea un bucle de errores acumulativos en lugar de una mejora genuina. La relevancia de esto para los datos abiertos radica en la urgente necesidad de preservar conjuntos de datos de alta calidad creados por seres humanos. Si Internet se inunda con contenido generado por IA, los modelos futuros tendrán dificultades para acceder al conocimiento humano auténtico, envenenando efectivamente la fuente de datos necesaria para un entrenamiento robusto. Esto subraya la importancia vital de mantener repositorios transparentes y accesibles de datos humanos originales, para garantizar que las iniciativas de IA abierta puedan seguir construyendo sistemas precisos y confiables sin sucumbir a la degradación causada por bucles de retroalimentación sintéticos. En última instancia, esta investigación sirve como un recordatorio contundente de que la calidad de los datos es primordial en el desarrollo de la IA. El principio de "basura entra, basura sale" se aplica severamente cuando los datos sintéticos reemplazan al material fuente humano, amenazando la viabilidad a largo plazo de los modelos de lenguaje grandes. Para la comunidad de datos abiertos, esto refuerza la necesidad de abogar por distinciones claras entre el contenido generado por humanos y el generado por máquinas, asegurando que las futuras generaciones de IA tengan acceso a información diversa y auténtica, en lugar de un ciclo cerrado y degenerativo de ruido sintético.
Source:Published on 2024-07-30