Rowhammer attack can backdoor AI models with one devastating bit flip

Rowhammer attack can backdoor AI models with one devastating bit flip

El método OneFlip revela una vulnerabilidad crítica en la que la alteración de un solo bit en la memoria puede envenenar silenciosamente los modelos de inteligencia artificial. Esto permite a los atacantes manipular redes neuronales, como las utilizadas en vehículos autónomos o sistemas de reconocimiento facial, con una tasa de éxito casi perfecta, manteniendo al mismo tiempo un rendimiento normal. Esta investigación destaca graves riesgos de seguridad en la integridad del hardware físico, demostrando que incluso una interferencia mínima en el hardware puede comprometer aplicaciones sofisticadas de inteligencia artificial. La resistencia de este ataque a las defensas actuales subraya la necesidad urgente de implementar medidas robustas de seguridad física en la fabricación y el despliegue del hardware. Comprender estas amenazas es fundamental para las iniciativas de datos abiertos, ya que enfatizan que la integridad de los datos va más allá de los algoritmos de software e incluye la infraestructura física subyacente. Garantizar la fiabilidad de los sistemas de inteligencia artificial requiere abordar estas vulnerabilidades a nivel de hardware para prevenir la explotación maliciosa de modelos confiables.

Noticias relacionadas

• Incrementa 30% actividades que atentan contra la seguridad virtual en Coahuila
• D.C.'s Data Dilemma: When Portals and Dashboards Aren't Enough
• Elon Outlines Plans to Power-Up xAI, Open Source AI Models
• Los incendios forestales arrasan a España
• Missouri Highway Patrol releases school bus crash statistics