Beware of AI 'model collapse': How training on synthetic data pollutes the next generation

Investigaciones recientes publicadas en Nature advierten que confiar en datos sintéticos para entrenar modelos de inteligencia artificial generativa conduce a un proceso degenerativo conocido como "colapso del modelo". Cuando los sistemas de IA se entrenan con datos generados por iteraciones anteriores de IA, pierden progresivamente precisión y diversidad. A lo largo de generaciones sucesivas, los modelos olvidan hechos menos comunes y amplifican errores, produciendo finalmente salidas irrelevantes o carentes de sentido. Este fenómeno sugiere que una dependencia excesiva del contenido generado por IA representa un grave riesgo para la viabilidad a largo plazo de los modelos de lenguaje avanzados. Las implicaciones para los datos abiertos son significativas, ya que el ecosistema depende de fuentes de información de alta calidad, diversas y auténticas. Si los datos sintéticos contaminan cada vez más Internet, resulta más difícil acceder a los datos originales creados por humanos, necesarios para entrenar modelos fiables. Esto genera un círculo vicioso en el que la calidad de los datos disponibles se deteriora, lo que podría estancar el progreso en el desarrollo de IA de código abierto. Preservar el acceso a conjuntos de datos originales generados por humanos se vuelve crucial para evitar la degradación de los recursos de IA de dominio público. En consecuencia, los desarrolladores e investigadores deben priorizar la retención e integración de datos auténticos generados por humanos para mantener la integridad de los modelos. A medida que el contenido generado por IA inunda los espacios digitales, garantizar el acceso continuo a datos de la era previa a la IA y a las contribuciones humanas en curso es esencial. Esto destaca un desafío fundamental para la comunidad de datos abiertos: proteger la pureza de los conjuntos de datos de entrenamiento frente a la invasión de la información sintética, para asegurar que los modelos futuros sigan siendo precisos y útiles.

Source: zdnet.com
Published on 2024-08-05

Aquí tienes una propuesta de título que captura la esencia del texto de manera clara y atractiva, evitando el sensacionalismo y el término prohibido: **La transparencia como herramienta: cómo los datos reales fortalecen la democracia, la vivienda y la ética** »

Datos Abiertos (Open data)

Related news