Hugging Face's chief science officer worries AI is becoming 'yes-men on servers' | TechCrunch
Hugging Face's chief science officer worries AI is becoming 'yes-men on servers' | TechCrunch
Thomas Wolf sostiene que los sistemas actuales de inteligencia artificial, a pesar de su amplio acceso a datos, funcionan meramente como «aduladores» capaces de memorizar el conocimiento existente en lugar de generar ideas novedosas. A diferencia de la creatividad revolucionaria que caracterizó los avances científicos históricos, los modelos de hoy se limitan principalmente a rellenar los vacíos entre hechos ya conocidos. Carecen de la capacidad de formular nuevas hipótesis o cuestionar los paradigmas establecidos, lo que limita su potencial para transformar verdaderamente el descubrimiento científico mediante el razonamiento independiente. Esta limitación proviene de una crisis de evaluación en la que el progreso de la IA se mide mediante pruebas estandarizadas con respuestas cerradas. Estas métricas premian el desempeño obediente en tareas conocidas, desincentivando el pensamiento contrafáctico y la pregunta audaz, elementos esenciales para la innovación genuina. En consecuencia, el desarrollo de la IA prioriza la ampliación de las competencias existentes en lugar de fomentar la capacidad de plantear preguntas heterodoxas o identificar conexiones previamente inadvertidas, aspectos críticos para el verdadero avance científico. Esta perspectiva es fundamental para los defensores de los datos abiertos, pues pone de manifiesto una falla estructural en confiar exclusivamente en el volumen de datos para impulsar la inteligencia. Si los datos abiertos se utilizan únicamente para entrenar modelos que repiten la información existente, no logran desbloquear un nuevo entendimiento científico. El artículo insta a la comunidad a desarrollar nuevos métodos de evaluación centrados en el razonamiento y la generación de hipótesis, asegurando que los recursos de datos abiertos contribuyan al descubrimiento genuino en lugar de simplemente reforzar el consenso establecido.
Fuente: techcrunch.comPublicado el 2025-03-07
Noticias relacionadas
- Polémica subasta de arte creado con IA recauda 729.000 dólares y supera expectativas
- The Hidden Risks Of Open Source AI: Why DeepSeek-R1’s Transparency Isn’t Enough
- La Organización Internacional del Trabajo alertó que lograr la igualdad de género tardaría casi dos siglos
- SDAIA Lists ALLaM 7B Arabic Language Model on Hugging Face