El Instituto de Datos Abiertos (Open Data Institute) revela que los modelos de lenguaje grandes (LLM) más populares suelen proporcionar información poco fiable sobre servicios públicos esenciales, como la sanidad y las prestaciones sociales. Al analizar más de 22.000 consultas similares a las que haría un usuario, el estudio destaca que los sistemas de inteligencia artificial (IA) a menudo ofrecen consejos con gran confianza pero incorrectos, sin reconocer la incertidumbre o enterrando datos clave en respuestas extensas y engañosas. Esto plantea riesgos significativos para los ciudadanos que confían en estas herramientas para tomar decisiones vitales. Esta investigación es altamente relevante para la comunidad de datos abiertos, ya que subraya la urgente necesidad de transparencia, responsabilidad y estándares de evaluación abierta en la IA del sector público. Los hallazgos cuestionan la suposición de que los modelos propietarios más grandes son superiores, sugiriendo en cambio que las soluciones más pequeñas y rentables pueden ser más adecuadas si se someten a pruebas rigurosas. Hace hincapié en que la fiabilidad debe medirse desde la perspectiva del usuario, lo que requiere benchmarks independientes y pruebas públicas, en lugar de depender únicamente de las afirmaciones de los proveedores o de los benchmarks técnicos. Además, el artículo advierte sobre la creciente crisis de datos generados por IA no verificados que están contaminando los futuros conjuntos de entrenamiento, lo que amenaza la fiabilidad fundamental de los modelos de lenguaje. A medida que los marcos regulatorios van por detrás de la rápida adopción tecnológica, se insta a los gobiernos a evitar el bloqueo con proveedores (vendor lock-in) y a priorizar el desarrollo abierto e incremental. La implicación central es que, sin prácticas sólidas de datos abiertos y estrictos mecanismos de verificación, la integridad de los servicios de información pública podría verse gravemente comprometida por las alucinaciones automatizadas.
Source: computerweekly.comPublished on 2026-02-12