Backdoor en agentes de IA: Microsoft revela que menos de 10 neuronas editadas ocultan el ataque hasta que se activa la fecha programada

Microsoft Research presentó Lazarus, una técnica que incrusta comandos encubiertos en modelos de lenguaje de pesos abiertos mediante la edición de un pequeño número de neuronas inactivas. Este método elude el entrenamiento tradicional de seguridad y no requiere un nuevo entrenamiento, lo que permite que un agente de codificación de IA ejecute comandos específicos del atacante únicamente cuando está presente un desencadenante predefinido. La vulnerabilidad pone de manifiesto que las métricas de evaluación estándar y los informes de pruebas limpios no pueden garantizar la integridad del modelo, ya que los modelos modificados se comportan de forma normal hasta que se activa el desencadenante. Esta investigación expone debilidades críticas en la cadena de suministro de datos abiertos, en particular en lo que respecta a la procedencia y verificación de los modelos. Dado que los pesos de las redes neuronales carecen de compilaciones reproducibles, un hash de archivo válido no demuestra que el modelo sea seguro o que no haya sido manipulado. A diferencia de métodos anteriores de puertas traseras que requerían un entrenamiento extenso, Lazarus puede aplicarse a puntos de control existentes con un esfuerzo mínimo, lo que demuestra que inspeccionar el código fuente o confiar en auditorías de línea base no es suficiente para detectar estas ediciones sutiles y dirigidas ocultas dentro de los vectores de pesos. Para mitigar estos riesgos, el artículo enfatiza que la defensa debe basarse en una verificación estricta de la procedencia y controles operativos, en lugar de limitarse a auditorías técnicas. Los equipos deben obtener los modelos únicamente de fuentes que proporcionen pesos firmados y atestiguados, y compararlos con las líneas base declaradas cuando sea posible. Además, desplegar agentes siguiendo el principio de privilegio mínimo, incluyendo el uso de entornos aislados (sandboxing) y límites estrictos de salida, asegura que, incluso si se activa un desencadenante oculto, el daño potencial se contenga, reforzando la idea de que los pesos abiertos requieren una gobernanza rigurosa para mantenerse seguros.

Fuente: techtimes.com
Publicado el 2026-11-13

Backdoor en agentes de IA: Microsoft revela que menos de 10 neuronas editadas ocultan el ataque hasta que se activa la fecha programada

Noticias relacionadas