Hardware Vulnerability Allows Attackers To Hack AI Training Data

Los investigadores han descubierto GATEBLEED, la primera vulnerabilidad basada en hardware que compromete la privacidad de los datos en inteligencia artificial al explerar los aceleradores de aprendizaje automático físicos. A diferencia de los ataques tradicionales por software que roban los datos almacenados de los modelos, esta falla permite a los atacantes deducir información sensible sobre los conjuntos de datos de entrenamiento y los atributos de entrada. Al monitorear fluctuaciones sutiles en los tiempos de respuesta causadas por mecanismos de apagado de energía (power-gating), los adversarios pueden determinar si se utilizó un dato específico para entrenar un sistema, eludiendo efectivamente los detectores de malware existentes y las defensas de seguridad. Este descubrimiento es crucial para los debates sobre datos abiertos, ya que revela que las decisiones de diseño de hardware socavan fundamentalmente las garantías de privacidad que normalmente se asocian con los marcos de IA de código abierto. Incluso si los datos de entrenamiento son cuidadosamente seleccionados, compartidos o anonimizados mediante protocolos abiertos, el entorno de ejecución físico puede filtrar información sobre la pertenencia a los conjuntos de datos (membership information). La vulnerabilidad afecta a arquitecturas ampliamente adoptadas y a modelos emergentes como las Mezclas de Expertos (Mixtures of Experts), demostrando que las bibliotecas de código abierto y las prácticas de implementación actuales están expuestas a nivel de silicio. Las implicaciones van más allá de las brechas técnicas de privacidad y se extienden a responsabilidades éticas y legales, ya que los datos de entrenamiento expuestos podrían revelar fuentes restringidas o no licenciadas. Dado que las fallas de hardware requieren rediseños físicos costosos y que consumen mucho tiempo, la mitigación inmediata es difícil. Esto destaca la urgente necesidad de que las comunidades de datos abiertos e inteligencia artificial aboguen por estándares de hardware transparentes y nuevos paradigmas de seguridad que aborden los riesgos en la capa física, asegurando que la apertura en el intercambio de datos no se produzca a costa de la privacidad fundamental.

Fuente: miragenews.com
Publicado el 2025-10-09

Hardware Vulnerability Allows Attackers To Hack AI Training Data

Noticias relacionadas