Malicious AI Models on Hugging Face Exploit Novel Attack Technique
Dos modelos de aprendizaje automático maliciosos identificados recientemente en Hugging Face expusieron vulnerabilidades críticas en la infraestructura de seguridad de la plataforma. Al explotar una técnica novedosa que elude los mecanismos de detección existentes, estos modelos demuestran cómo los actores de amenazas pueden abusar de los formatos estándar de serialización de archivos para distribuir código dañino. Este incidente pone de manifiesto una brecha significativa entre la conveniencia de la colaboración abierta y la necesidad de protocolos de seguridad rigurosos en los repositorios compartidos de inteligencia artificial. El problema central radica en el uso de la serialización Pickle, un método común para almacenar modelos de aprendizaje automático que, por su propia naturaleza, permite la ejecución arbitraria de código. Los atacantes lograron evadir la detección comprimiendo modelos de PyTorch en un formato no convencional e incrustando cargas maliciosas dentro de archivos estructuralmente corruptos. Dado que las herramientas de escaneo actuales dependen de validar la integridad de los archivos antes de realizar las comprobaciones de seguridad, no pueden interpretar estos flujos de datos corruptos, lo que permite que instrucciones peligrosas se ejecuten durante la deserialización sin activar alarmas. Este descubrimiento es profundamente relevante para las comunidades de datos abiertos, ya que subraya los riesgos inherentes a confiar en artefactos ejecutables compartidos en entornos de código abierto. Revela que las medidas de seguridad actuales, que a menudo dependen de listas negras estáticas o de una validación estricta, son insuficientes frente a amenazas evolutivas que manipulan la estructura de los archivos. En consecuencia, los desarrolladores y los responsables del mantenimiento de las plataformas deben priorizar el análisis dinámico y protocolos de ingestión más estrictos para proteger la integridad de los ecosistemas de datos abiertos frente a compromisos silenciosos.
Source: infosecurity-magazine.comPublished on 2025-02-08