Poisoning training data: Russian propaganda for AI models

Un análisis sistemático reciente revela que los principales chatbots de inteligencia artificial, incluidos ChatGPT y Copilot, están reproduciendo propaganda rusa debido a una campaña coordinada de desinformación conocida como "LLM grooming" (adestramiento de modelos de lenguaje grandes). Una red pro-rusa alimenta deliberadamente narrativas falsas en el contenido web que los modelos de IA extraen para su entrenamiento y para búsquedas en tiempo real. Al optimizar este contenido para los rastreadores (crawlers) en lugar de los lectores humanos, la red logra envenenar los datos de entrenamiento, lo que hace que los algoritmos prioricen y repitan la desinformación vinculada al Kremlin. Esto destaca una vulnerabilidad crítica en la forma en que los sistemas de datos abiertos aprenden: los modelos generan respuestas basadas en la probabilidad estadística de la aparición de los datos, más que en la verdad inherente. Cuando los actores malintencionados inundan internet con narrativas específicas, manipulan las distribuciones de probabilidad que guían las salidas de la IA. Esto demuestra que los ecosistemas de datos abiertos no son inmunes a la manipulación; sin mecanismos de verificación robustos, el gran volumen de información accesible pero falsa puede distorsionar la base de conocimientos de las herramientas de IA ampliamente utilizadas. La relevancia para los datos abiertos es profunda, ya que subraya la necesidad urgente de establecer estándares de procedencia de datos y control de calidad. Demuestra que la disponibilidad abierta de la información en línea no garantiza la fiabilidad de los conocimientos sintetizados. Los desarrolladores y los responsables del cuidado de los datos deben implementar procesos de filtrado y validación más estrictos para evitar que los actores malintencionados exploten los conjuntos de datos abiertos, asegurando que la transparencia en los datos no facilite inadvertidamente la difusión de desinformación organizada.

Fuente: heise.de
Publicado el 2025-03-28

Poisoning training data: Russian propaganda for AI models

Noticias relacionadas