The UK government embracing AI? I’m sorry, that’s nonsense and I can prove it | Chris Stokel-Walker

The UK government embracing AI? I’m sorry, that’s nonsense and I can prove it | Chris Stokel-Walker

El artículo destaca una clara desconexión entre la retórica política y la realidad práctica de la inteligencia artificial (IA) en la gobernanza. Si bien los líderes prometen una eficiencia transformadora mediante la IA, el uso real por parte de altos funcionarios suele revelar una dependencia superficial de herramientas generativas para responder preguntas básicas. Estas interacciones demuestran que las aplicaciones actuales de IA frecuentemente no aportan valor, produciendo en su lugar información inexacta o genérica en lugar de resolver problemas complejos. Esta brecha socava la confianza en la preparación inmediata de la tecnología para la toma de decisiones de alto riesgo en el sector público. Una preocupación central es la fiabilidad de la IA generativa, en particular su tendencia a las "alucinaciones" y a la difusión de desinformación. Cuando los ministros de gobierno utilizan estas herramientas para análisis de políticas sustantivas o verificación de datos, el riesgo de resultados erróneos genera posibles responsabilidades para la administración pública. El artículo sostiene que confiar en la IA para tareas que los seres humanos o herramientas de búsqueda más simples pueden manejar con mayor precisión expone la fragilidad de las estrategias digitales actuales y plantea serias dudas sobre la rendición de cuentas en la gobernanza automatizada. Este caso es altamente relevante para los datos abiertos, ya que subraya la necesidad de una integridad y transparencia rigurosas de los datos en el gobierno digital. Si los sistemas de IA se alimentan con datos deficientes o no verificados, o si sus resultados no se examinan con los mismos estándares que los registros oficiales, se compromete la base de los datos abiertos. El incidente sirve como una advertencia para la comunidad de datos abiertos, enfatizando que la adopción tecnológica debe estar fundamentada en fuentes de datos verificadas y de alta calidad, así como en una supervisión humana crítica, para evitar la erosión de la confianza pública en la información oficial.

Noticias relacionadas

• Will synthetic data derail generative AI's momentum or be the breakthrough we need?
• Vietnam Innovation Challenge 2025 launched to advance AI with Vietnamese open data
• Los editores franceses demandan a Meta por uso indebido de obras con fines de IA
• Privacy at risk: Finland's biometric data usage proposal goes too far
• Another blow for Rachel Reeves as UK economy shrinks ahead of crunch Budget