LLMs aren’t world models

LLMs aren’t world models

El autor sostiene que los Modelos de Lenguaje Grande (LLM) no poseen una representación interna de la realidad, o "modelos del mundo", a pesar de su capacidad para generar texto coherente. La evidencia procedente del ajedrez, la edición de imágenes y la programación demuestra que los LLM no comprenden las estructuras lógicas fundamentales ni las restricciones físicas. Por ejemplo, estos modelos no pueden rastrear el estado del tablero, malinterpretan operaciones matemáticas básicas en el software o confunden las propiedades de seguridad de la memoria, lo que indica que predicen las salidas basándose en patrones lingüísticos en lugar de comprender los conceptos subyacentes. Esta distinción es crucial para los datos abiertos, ya que revela las limitaciones de confiar en los LLM para la validación de datos, el razonamiento o el análisis autónomo. Dado que estos modelos carecen de un anclaje en la consistencia factual o en la verdad lógica, son propensos a las alucinaciones y no pueden verificar de manera fiable las relaciones complejas dentro de los conjuntos de datos. La ausencia de un modelo del mundo significa que los LLM no pueden distinguir inherentemente entre una lógica correcta y una incorrecta, lo que los hace inadecuados para tareas que requieren una verificación rigurosa sin salvaguardias externas. En consecuencia, el artículo sugiere que, aunque los LLM son útiles para la resumización o la redacción de borradores, son insuficientes para lograr una verdadera inteligencia artificial o un procesamiento de datos fiable. La dependencia de la predicción estadística en lugar de la comprensión conceptual implica que las arquitecturas actuales de IA requieren enfoques fundamentalmente diferentes para manejar el razonamiento novedoso o garantizar la seguridad. Esto destaca la necesidad de que los ecosistemas de datos abiertos implementen métodos de verificación estructurados más allá del simple modelado del lenguaje para asegurar la precisión y la fiabilidad.

Noticias relacionadas

• How ChatGPT’s Salt-Free Diet Tip Led to a 19th-Century Illness - TechStory
• Fact focus: Trump exaggerates, misstates facts on Washington crime
• 'Cowboy steaks' and sugar-free Monster drinks among items hand-delivered to prisoners | BreakingNews.ie
• US consumer prices likely increased marginally in July; data quality concerns rising
• How China is making gains in the race for AI dominance