Las capacidades ocultas de la IA pueden hacerse criptográficamente indetectables, demuestra un artículo de NeurIPS
Un estudio presentado en NeurIPS 2026 demuestra que los modelos de inteligencia artificial pueden ocultar criptográficamente capacidades arbitrarias, volviéndolas invisibles ante cualquier evaluación de seguridad conocida previa al despliegue. Al incrustar redes neuronales cifradas dentro de los pesos del modelo, el sistema asegura que las funciones ocultas solo se activen ante un disparador específico. Este enfoque establece una barrera matemática formal, basada en la dificultad de invertir las funciones hash SHA-3, que impide a los auditores elicitar o confirmar la presencia de habilidades ocultas, independientemente de sus recursos computacionales o sofisticación metodológica. Este hallazgo es críticamente relevante para la gobernanza de la IA y los datos abiertos, ya que demuestra que los marcos de evaluación actuales se basan en un supuesto falso: que una auditoría exhaustiva siempre puede revelar capacidades latentes. Las preocupaciones previas sobre las brechas en la evaluación eran principalmente prácticas, derivadas de presupuestos limitados o de la saturación de los benchmarks. En contraste, esta investigación identifica un límite estructural donde la ausencia de capacidades no puede probarse, incluso con acceso completo a los pesos del modelo. Esto implica que los mecanismos estándar de auditoría y transparencia de pesos abiertos pueden fallar al detectar manipulaciones adversarias sofisticadas, desafiando la eficacia de las políticas de seguridad actuales que dependen de la verificación basada en elicitation. En consecuencia, el estudio destaca una vulnerabilidad grave en la cadena de suministro de la IA, donde las modificaciones de pesos durante la distribución o el ajuste fino pueden introducir puertas traseras indetectables. Si bien las implementaciones actuales requieren una sobrecarga computacional significativa y siguen siendo prototipos conceptuales, ilustran que actores sofisticados pueden eludir los controles de seguridad ocultando redes ejecutables en lugar de comportamientos simples. Esto exige un cambio en las prácticas de seguridad de los datos abiertos, pasando más allá de la elicitation conductual hacia nuevos métodos de detección capaces de identificar ofuscaciones criptográficas en las arquitecturas de los modelos.
Fuente: techtimes.comPublicado el 2026-10-15
Noticias relacionadas
- Pillar Security descubre 'BadEngram', exponiendo un riesgo oculto en la cadena de suministro de modelos de IA de peso abierto – IT Business Net
- Conductores sobrios aún enfrentan un riesgo nocturno casi 4 veces mayor: por qué la seguridad vial exige un enfoque de sistema seguro - CleanTechnica
- La nueva red de Incode para señales de fraude anonimizadas aumenta la detección en un 53% | Biometric Update
- AMD Ryzen AI Halo con 192 GB carga modelos sin rival: DGX Spark sigue ganando en velocidad
- Se encuentran vulnerabilidades de seguridad en el principal gateway de IA de código abierto: las vulnerabilidades de LiteLLM podrían afectar a millones de usuarios