AI-Generated Data Can Poison Future AI Models

La rápida proliferación de la inteligencia artificial generativa representa una amenaza crítica para la calidad de los datos abiertos utilizados para entrenar futuros modelos de aprendizaje automático. A medida que el contenido sintético inunda internet y las plataformas de crowdsourcing, contamina cada vez más los conjuntos de datos necesarios para desarrollar nuevas tecnologías. Esta afluencia de material generado por IA crea un bucle de retroalimentación en el que los modelos subsiguientes se entrenan con las salidas de modelos anteriores, en lugar de hacerlo con datos originales creados por seres humanos. Este fenómeno, denominado "colapso del modelo", conduce a la acumulación gradual de errores y a una pérdida significativa de la diversidad de los datos. El impacto es particularmente grave en la información menos común, lo que provoca que los modelos pierdan detalles matizados y exacerbe los sesgos existentes contra grupos marginados. Como consecuencia, la variabilidad única inherente a los datos humanos disminuye, haciendo que las salidas de la IA sean cada vez menos significativas, precisas y representativas de la realidad en sucesivas generaciones. Este desarrollo es altamente relevante para los datos abiertos, ya que señala una posible crisis en la integridad de los datos para la investigación y el desarrollo públicos. Sin esfuerzos deliberados para curar y preservar conjuntos de datos compuestos exclusivamente por contenido creado por seres humanos, el ecosistema de datos abiertos corre el riesgo de verse contaminado con ruido sintético. Abordar este problema requiere nuevos estándares para la procedencia de los datos y mecanismos rigurosos de filtrado para garantizar que los recursos abiertos sigan siendo confiables, libres de sesgos y reflejos genuinos de la experiencia humana.

Fuente: scientificamerican.com
Publicado el 2024-03-10

AI-Generated Data Can Poison Future AI Models

Noticias relacionadas