Poisoning training data: Russian propaganda for AI models

Poisoning training data: Russian propaganda for AI models

Un análisis reciente revela que los principales chatbots de inteligencia artificial (IA) reproducen con frecuencia la propaganda del Estado ruso, lo que pone de manifiesto una vulnerabilidad crítica en la forma en que los modelos de lenguaje de gran escala adquieren y utilizan la información. Este fenómeno se origina en un esfuerzo coordinado por parte de redes pro-rusas para infiltrarse intencionalmente en los conjuntos de datos de entrenamiento de los sistemas de IA. Al inundar la web con contenido fabricado en sitios web especializados diseñados para atraer a los rastreadores web (web crawlers), estos actores aseguran que sus narrativas queden incrustadas en la base de conocimiento fundamental de los modelos, influyendo tanto en las respuestas preentrenadas como en los resultados de búsqueda en tiempo real. La estrategia se basa en lo que los investigadores denominan "adestramiento de LLM" (LLM grooming), en el que la información falsa se difunde a tal volumen que se vuelve estadísticamente probable que los modelos de IA la reproduzcan como si fuera un hecho. A diferencia de la desinformación tradicional, este enfoque ataca directamente el proceso de aprendizaje automático, envenenando los datos de entrenamiento mediante su publicación repetida en miles de sitios. Como consecuencia, los sistemas de IA no solo recuperan noticias actuales, sino que reflejan un paisaje de datos manipulado, presentando con frecuencia la propaganda como información creíble debido a su alta frecuencia en el corpus de Internet sobre el cual fueron entrenados. Este problema es altamente relevante para el ámbito de los datos abiertos, ya que expone el riesgo inherente de depender del contenido disponible públicamente en Internet para entrenar la IA generativa. Subraya la urgente necesidad de una curaduría rigurosa de los datos, la transparencia en las fuentes de entrenamiento y el desarrollo de técnicas defensivas para identificar y mitigar los conjuntos de datos envenenados. A medida que los datos abiertos se convierten en el elemento vital del desarrollo de la IA, la posibilidad de que actores malintencionados sesguen el conocimiento mediante una contaminación estratégica representa una amenaza significativa para la integridad de la información digital y la confianza en los sistemas automatizados.

Noticias relacionadas

• Meta's chief AI scientist says all countries should contribute data to a shared open-source AI model
• Google quietly released an app that lets you download and run AI models locally | TechCrunch
• Internet Archive's National Emergency Library is "Vile" Says Copyright Alliance * TorrentFreak
• Don’t get caught by a travel scam: Here’s when and where most happen