Investigadores de Meta AI y CMU reducen en un 22% las tasas de elusión de la IA con un filtro de datos de entrenamiento previo al despliegue
El ajuste fino de modelos de lenguaje grandes conlleva inherentemente el riesgo de comprometer la seguridad, incluso cuando se utilizan datos de entrenamiento benignos. Esto ocurre porque la optimización del rendimiento en tareas específicas suele desplazar los pesos del modelo lejos de las configuraciones que respaldan las negativas seguras. En consecuencia, los filtros de contenido estándar resultan ineficaces, ya que la degradación de la seguridad está impulsada por propiedades estructurales de los datos y no por texto explícitamente dañino, lo que deja a las organizaciones vulnerables a ataques de jailbreak sofisticados. Para abordar este problema, los investigadores desarrollaron SimpleLoRIF, un método escalable que identifica y elimina ejemplos específicos de entrenamiento responsables de esta vulnerabilidad. Al analizar las alineaciones de gradientes en lugar del contenido textual, el enfoque detecta problemas estructurales sutiles, como fallos en la ejecución de herramientas o aritmética narrativa, que se correlacionan con comportamientos inseguros. Filtrar estos ejemplos reduce significativamente las tasas de éxito de los ataques de jailbreak en las principales familias de modelos, sin sacrificar las capacidades de razonamiento matemático, demostrando que la higiene de datos puede preservar la utilidad mientras mejora la seguridad. Este trabajo es crucial para los datos abiertos, ya que traslada la responsabilidad de la seguridad a la etapa de procedencia de los datos. Demuestra que la seguridad de la IA es auditable a nivel de conjunto de datos mediante métodos de atribución reproducibles y sin etiquetas. A medida que la tecnología evolucione, esto podría permitir certificaciones de seguridad para los datos de entrenamiento, posibilitando que las organizaciones verifiquen que las señales de gradiente dañinas han sido eliminadas antes del despliegue. Esto establece un marco fundamental para estándares de seguridad en IA de código abierto, transparentes y verificables.
Fuente: techtimes.comPublicado el 2026-10-31
Noticias relacionadas
- La diversidad de herramientas supera el volumen de tareas: Meta FAIR deriva una ley de escalado para el entrenamiento de agentes
- MiniMax M3.1-Flash para programación y agentes
- Reddit prioriza la experiencia de los usuarios conectados a medida que el tráfico por la IA de Google aumenta
- ¿Qué son los modelos de IA de peso abierto? - CNET
- Ley de Libertad de Información