Google AI Gemini parrots China’s propaganda
El asistente de inteligencia artificial de Google, Gemini, mostró una inquietante asimetría en sus respuestas en mandarín, repitiendo la propaganda oficial de Pekín sobre derechos humanos y Taiwán, mientras guardaba silencio ante preguntas críticas similares sobre China. En contraste, el modelo discutió con facilidad temas de Estados Unidos y no rechazó preguntas cuando se le interrogó en inglés. Este sesgo lingüístico sugiere que los datos de entrenamiento del modelo en mandarín están fuertemente influenciados por narrativas controladas por el Estado chino, actuando efectivamente como una herramienta de censura y desinformación, en lugar de un sistema de recuperación de información neutral. Esta discrepancia destaca una vulnerabilidad crítica en los ecosistemas de datos abiertos: el riesgo de que los modelos de IA hereden y amplifiquen los sesgos de sus fuentes de entrenamiento. Si las empresas tecnológicas occidentales no curan y auditan rigurosamente los datos utilizados para entrenar modelos multilingües, estos sistemas pueden convertirse inadvertidamente en multiplicadores de fuerza para la influencia autoritaria. El incidente demuestra cómo los conjuntos de datos de entrenamiento opacos pueden generar salidas que contradicen hechos diplomáticos establecidos, socavando la integridad de los sistemas de información globales y la fiabilidad de las herramientas de IA para la comunicación intercultural. El evento es altamente relevante para los datos abiertos, ya que subraya la urgente necesidad de transparencia en la obtención de datos y la auditoría algorítmica. A medida que legisladores y expertos exigen mayor responsabilidad, este caso ilustra por qué los estándares abiertos para la calidad y neutralidad de los datos de entrenamiento son esenciales. Sin filtros estrictos contra narrativas estatales manipuladas, las iniciativas de datos abiertos corren el riesgo de comprometer los valores democráticos, demostrando que los datos accesibles también deben ser verificados en busca de sesgos ideológicos para seguir siendo una base confiable para la innovación tecnológica.
Source: voanews.comPublished on 2024-06-14
Related news
- New EU AI Regulations Shake Up Tech Industry with Data Disclosure Demands
- El unicornio de la IA Hugging Face adquiere la española Argilla
- Experts Exchange takes a stand against AI-creep by blocking companies from scraping content and data from its community
- The Fight Against AI Comes to a Foundational Data Set
- Uncensor any LLM with abliteration