AI Companies Seeking AI-Produced Data for Recursive Training
AI Companies Seeking AI-Produced Data for Recursive Training
La escasez y el elevado costo de los datos orgánicos generados por humanos están impulsando a las principales empresas de inteligencia artificial (IA) hacia la generación de datos sintéticos. Este cambio crea un bucle de entrenamiento recursivo en el que los modelos aprenden a partir de contenido previamente creado por IA. Aunque esto ofrece una posible solución al agotamiento de los datos, introduce riesgos significativos relacionados con la degradación de la calidad y la amplificación de los sesgos existentes. En consecuencia, la industria está recurriendo cada vez más a empresas especializadas en la producción de conjuntos de datos sintéticos de alta calidad con fines de entrenamiento. Una limitación crítica surge de este enfoque, ya que la calidad de las salidas se deteriora gravemente tras múltiples rondas de entrenamiento con datos sintéticos. Este fenómeno sugiere un límite estricto sobre la eficacia con la que la IA puede evolucionar únicamente mediante información generada por sí misma. Si los conjuntos de datos originales contienen defectos inherentes, las iteraciones subsiguientes agravarán estas deficiencias, lo que podría estancar el progreso. Por lo tanto, comprender y mitigar esta degradación es esencial para el desarrollo sostenible de sistemas avanzados de inteligencia artificial. Esta dinámica es altamente relevante para el movimiento de datos abiertos (open_data), ya que cuestiona la suposición de que la información públicamente disponible es suficiente para entrenar modelos robustos. Destaca la urgente necesidad de fuentes de datos transparentes, de alta calidad y verificables, incluidas aquellas que podrían generarse mediante metodologías abiertas. A medida que la industria lidia con las "pesadillas" de las alucinaciones y los sesgos de la IA, la comunidad de datos abiertos debe garantizar que las prácticas de datos sintéticos no oscurezcan la procedencia ni degraden la integridad del conocimiento compartido. Garantizar el acceso abierto a datos limpios y diversos sigue siendo vital para prevenir un bucle cerrado de salidas de IA de inferior calidad.
Fuente: tomshardware.comPublicado el 2023-07-21