Pillar Security descubre 'BadEngram', exponiendo un riesgo oculto en la cadena de suministro de modelos de IA de peso abierto – IT Business Net

El ataque BadEngram demuestra una vulnerabilidad crítica en las arquitecturas emergentes de memoria de IA, dirigiéndose específicamente a los componentes de memoria con compuerta presentes en los modelos recientes de Qwen y DeepSeek. Al modificar únicamente estos parámetros de memoria especializados, los atacantes pueden implantar una puerta trasera persistente y difícil de detectar que permanece inactiva hasta que se activa un desencadenante específico. Esto revela que incluso cambios mínimos en las estructuras no centrales del modelo pueden comprometer la integridad del sistema, dejando el resto del modelo aparentemente intacto mientras altera sutilmente su comportamiento. Este descubrimiento es particularmente significativo para la comunidad de open_data, ya que destaca los riesgos de seguridad ocultos asociados con los modelos de pesos abiertos. A medida que las organizaciones adoptan cada vez más estos modelos por su eficiencia de costos y transparencia, asumen la plena responsabilidad de validar su seguridad. El ataque expone una nueva superficie de ataque donde los componentes arquitectónicos novedosos carecen del riguroso escrutinio de seguridad que se aplica a las estructuras tradicionales de los modelos, enfatizando que el acceso abierto no equivale a seguridad inherente. En consecuencia, el artículo subraya la necesidad urgente de ampliar la modelización de amenazas para incluir todo el sistema de IA, abarcando las cadenas de suministro de memoria y software. Los controles de seguridad deben verificar la integridad y el origen de todos los componentes aprendidos, especialmente cuando los modelos son modificados o provienen de terceros. Esto sirve como una advertencia vital para los profesionales de open_data, quienes deben tratar los modelos completos como artefactos de la cadena de suministro, asegurando que el avance hacia la IA de pesos abiertos no introduzca inadvertidamente vulnerabilidades sistémicas.

Fuente: itbusinessnet.com
Publicado el 2026-10-15

Pillar Security descubre 'BadEngram', exponiendo un riesgo oculto en la cadena de suministro de modelos de IA de peso abierto – IT Business Net

Noticias relacionadas