AI language models are running out of human-written text to learn from
AI language models are running out of human-written text to learn from
El estudio revela que el crecimiento exponencial de los modelos de inteligencia artificial (IA) enfrenta un cuello de botella inminente, ya que se prevé que los datos de entrenamiento públicos se agoten entre 2026 y 2032. Esta escasez amenaza el método principal de la industria para mejorar las capacidades de los modelos, lo que obliga a los desarrolladores a reconsiderar su dependencia de la escalada continua de arquitecturas más grandes con conjuntos de datos cada vez más amplios. La era del texto generado por humanos, de alta calidad y disponible gratuitamente, está llegando efectivamente a su fin, marcando una transición crítica en la forma en que se construyen y mejoran los sistemas de inteligencia artificial. En respuesta a esta escasez, la industria está adoptando estrategias alternativas, como el uso de fuentes de datos privadas y datos sintéticos generados por otros modelos de IA. Sin embargo, estas opciones conllevan riesgos significativos, como el "colapso del modelo", donde la dependencia del contenido generado por IA degrada el rendimiento y amplifica los sesgos existentes. En consecuencia, el enfoque podría desplazarse hacia el desarrollo de modelos especializados y específicos para tareas, en lugar de sistemas monolíticos de propósito general, desafiando la suposición de que los modelos más grandes son siempre superiores a otros más especializados y dirigidos. Esta investigación es altamente relevante para la comunidad de datos abiertos, ya que plantea el contenido creado por humanos como un recurso natural finito que requiere una gestión sostenible. Destaca la necesidad urgente de marcos éticos en relación con el uso de datos, la compensación a los creadores y la preservación de fuentes de información de alta calidad como Wikipedia. Al exponer los límites del consumo actual de datos, el estudio subraya la importancia de proteger los ecosistemas de datos abiertos contra su agotamiento y garantizar que la base del desarrollo de la IA siga siendo diversa, auténtica y obtenida de manera ética.
Fuente: foxnews.comPublicado el 2024-06-07