Foolish, shocking and dangerous – the rush for AI riches
Foolish, shocking and dangerous – the rush for AI riches
El artículo advierte que el suministro finito de datos humanos de alta calidad está impulsando a las empresas de inteligencia artificial a depender de datos sintéticos, una práctica que conlleva el riesgo de crear bucles autorreforzados de alucinaciones y desinformación. Al entrenar modelos con las salidas de otros sistemas de IA, los ingenieros priorizan la velocidad y el dominio financiero sobre la precisión, lo que podría degradar la integridad de la información digital. Este enfoque refleja las fallas del tipo "basura entra, basura sale" observadas en crisis históricas como el brote de la enfermedad de las vacas locas, donde decisiones apresuradas para lograr un crecimiento rápido condujeron a consecuencias catastróficas a largo plazo. Esta dependencia de los datos sintéticos representa una amenaza significativa para el ecosistema de datos abiertos. A medida que los modelos de IA consumen y generan contenido distorsionado, la veracidad de la información públicamente disponible se erosiona, dificultando cada vez más distinguir los hechos de las fabricaciones. La normalización de las alucinaciones algorítmicas socava la fiabilidad de los conjuntos de datos abiertos, que son fundamentales para la investigación transparente, el periodismo y la rendición de cuentas democrática. Cuando las fuentes abiertas se contaminan con ruido generado por IA, el valor y la utilidad del conocimiento compartido para la sociedad se ven gravemente comprometidos. En consecuencia, existe una necesidad urgente de establecer salvaguardas normativas robustas para regular el desarrollo de la IA y proteger la integridad de la infraestructura de la información. Si bien la Unión Europea está dando pasos hacia la regulación, Estados Unidos se muestra reacio a frenar las ambiciones corporativas. Este retraso regulatorio permite que la carrera por la supremacía en IA continúe sin control, amenazando con infectar el panorama digital global con graves daños económicos y sociales. Salvaguardar los datos abiertos requiere una acción correctiva rápida para prevenir la mutación y transmisión a largo plazo de falsedades impulsadas por la IA.
Fuente: heraldscotland.comPublicado el 2024-04-24