AI is creating 'overly compliant helpers,' not revolutionaries, said the top scientist at Hugging Face

Thomas Wolf sostiene que los actuales modelos de lenguaje de gran escala destacan principalmente por seguir instrucciones, más que por generar conocimiento nuevo. Describe su función como "relleno de variedades" (manifold filling), en la que simplemente sintetizan información existente en lugar de actuar como pensadores revolucionarios. Esta obediencia limita su capacidad para impulsar auténticos avances científicos, ya que carecen de la capacidad de cuestionar sus datos de entrenamiento o proponer ideas contraintuitivas. Wolf cuestiona la visión optimista de que la IA comprimirá rápidamente décadas de descubrimientos científicos en meros años. Advierte que, sin un cambio hacia el razonamiento independiente y la investigación inesperada, la tecnología producirá herramientas obedientes en lugar de nuevos Einsteins. Esta perspectiva destaca una limitación crítica al depender exclusivamente de las arquitecturas actuales de IA para la investigación fundamental, sugiriendo que la verdadera innovación requiere más que una recuperación eficiente de datos. Esta crítica es altamente relevante para open_data, ya que la calidad y la apertura de los conjuntos de datos de entrenamiento influyen directamente en el potencial creativo de la IA. Las iniciativas de datos abiertos proporcionan información diversa y accesible que puede ayudar a los modelos a ir más allá del simple reconocimiento de patrones. Al fomentar entornos donde los datos están disponibles libremente y son auditables, la comunidad de open_data apoya el desarrollo de sistemas capaces de realizar descubrimientos genuinos, en lugar de limitarse a la mera resumización.

Fuente: businessinsider.com
Publicado el 2025-03-08

AI is creating 'overly compliant helpers,' not revolutionaries, said the top scientist at Hugging Face

Noticias relacionadas