Uso de datos sintéticos a futuro no servirán a Inteligencia artificial
Uso de datos sintéticos a futuro no servirán a Inteligencia artificial
Investigaciones recientes destacan una vulnerabilidad crítica en el desarrollo de la inteligencia artificial: la dependencia de datos sintéticos para entrenar modelos provoca una rápida degradación y la generación de salidas sin sentido. A medida que las principales empresas tecnológicas enfrentan un suministro decreciente de contenido generado por humanos, recurren cada vez más a datos creados por IA. Sin embargo, los experimentos demuestran que entrenar modelos con sus propias salidas anteriores provoca una amplificación de errores, resultando en una rápida pérdida de utilidad donde la información factual se descompone en narrativas incoherentes. Este "colapso del modelo" ocurre porque los sistemas se ven abrumados por las inexactitudes acumuladas a través de sucesivas generaciones de entrenamiento automatizado. Este fenómeno subraya los riesgos inherentes de la trayectoria actual en el desarrollo de la IA, sugiriendo que, sin una gestión cuidadosa, estas tecnologías pueden no mantener la precisión con el tiempo. El estudio implica que la ventaja recae en las entidades que puedan asegurar datos humanos de alta calidad antes de que los recursos se agoten. En consecuencia, se insta a la industria a reconsiderar las estrategias que priorizan los bucles de datos sintéticos, ya que estos amenazan la viabilidad y confiabilidad a largo plazo de los modelos de lenguaje grandes. Los hallazgos sirven como una advertencia de que los atajos técnicos pueden comprometer la integridad fundamental de los sistemas de IA. Este artículo es altamente relevante para los datos abiertos, ya que expone los peligros de los silos de datos cerrados y propietarios, así como la posible contaminación de los ecosistemas de información. Destaca la necesidad de transparencia en las fuentes de datos y la importancia de contar con conjuntos de datos abiertos y verificables para mantener la integridad de los modelos. Al ilustrar cómo los datos sintéticos corrompen los conjuntos de entrenamiento, aboga por prácticas de datos abiertos que garanticen la autenticidad y prevengan los errores sistémicos que surgen de los procesos de entrenamiento de IA en bucle cerrado y no regulados, los cuales son esenciales para el desarrollo de una IA confiable.
Fuente: milenio.comPublicado el 2024-07-27
Noticias relacionadas
- IA en el trabajo: lo bueno y lo malo de incorporar estas tecnologías
- To Share or Not to Share: Debates and New Approaches on Data Sharing for AI Training
- How open is open source AI – Let’s Llama
- John Battelle's Search Blog What’s SearchGPT Really About? Moving Past the Training Data Dilemma.
- Open Source AI Has Founders—and the FTC—Buzzing