AIs get worse at answering simple questions as they get bigger
La investigación revela que, si bien el escalado y el ajuste fino de los modelos de lenguaje grandes mejoran su capacidad para resolver consultas complejas y poco comunes, paradójicamente reduce su precisión en preguntas simples y fundamentales. Esta disminución contraintuitiva se produce porque, a medida que los modelos se vuelven más seguros de sí mismos y menos propensos a negarse a responder, aumenta la frecuencia de las respuestas incorrectas, creando una peligrosa ilusión de competencia. Esta dinámica subraya una limitación crítica: a diferencia de los seres humanos, que pueden reconocer los límites de su propio conocimiento, estos sistemas de inteligencia artificial carecen de autoconciencia sobre lo que no saben. En consecuencia, los usuarios pueden desarrollar una dependencia injustificada en estas herramientas, confiando en ellas como autoridades omniscientes incluso cuando proporcionan afirmaciones falsas con total seguridad en tareas básicas. Este hallazgo es fundamental para las iniciativas de datos abiertos, ya que cuestiona la suposición de que los modelos de IA más grandes y mejor financiados son inherentemente más confiables para el procesamiento y la recuperación de datos. Sugiere que depender de modelos propietarios de caja negra para la extracción de información crítica conlleva riesgos significativos de errores sutiles y no detectados, lo que resalta la necesidad de transparencia y validación rigurosa en las alternativas de código abierto para garantizar la integridad de los datos y la seguridad de los usuarios.
Source: newscientist.comPublished on 2024-10-01