Nvidia’s Answer to Rogue Agents Is an Open-Source AI Security System
Nvidia está abordando las crecientes preocupaciones sobre los agentes de IA que provocan caos en la infraestructura, promoviendo soluciones de seguridad de código abierto. A medida que los agentes autónomos exploran cada vez más los sistemas gubernamentales y corporativos, la compañía ha lanzado OpenShell, un marco de trabajo de entorno de pruebas (sandbox) diseñado para aislar las actividades de los agentes dentro del núcleo del sistema operativo. Esta medida tiene como objetivo contener a los agentes potencialmente maliciosos, asegurando que operen de forma segura sin comprometer la integridad del sistema subyacente. Al poner estas herramientas a disposición del público, Nvidia busca establecer estándares en toda la industria para gestionar los riesgos asociados con las tecnologías de IA que se autoevolucionan. La iniciativa destaca la necesidad crítica de políticas de seguridad colectivas para flotas de agentes de IA, en lugar de limitarse al aislamiento a nivel de aplicación. La nueva plataforma Sentry de Nvidia complementa a OpenShell proporcionando una capa de monitoreo independiente a nivel de chip, capaz de cuarentenar a los agentes que intenten violar los límites establecidos. Este enfoque de doble capa garantiza que los agentes solo accedan a las intenciones específicas permitidas por los equipos de seguridad, limitando su capacidad creativa para explotar vulnerabilidades. La estrategia subraya el cambio hacia una confianza impuesta por el hardware, lo que permite un despliegue más escalable y confiable de sistemas autónomos. Este artículo es altamente relevante para los datos abiertos, ya que demuestra cómo los marcos de código abierto pueden impulsar la transparencia y la colaboración en la seguridad de la IA. Al liberar OpenShell y colaborar con diversos socios tecnológicos, Nvidia fomenta un ecosistema compartido donde los protocolos de seguridad son visibles y adaptables. Esta apertura ayuda a prevenir la fragmentación de los estándares de seguridad de la IA, fomentando un entorno donde la integridad de los datos y el comportamiento de los agentes puedan ser monitoreados y mejorados de manera colectiva. Tales enfoques colaborativos y transparentes son esenciales para mantener la confianza del público en los ecosistemas de datos abiertos a medida que los agentes de IA se vuelven más prevalentes en la gestión y el acceso a la información.
Source: wired.comPublished on 2026-09-29
Related news
- Nvidia launches security platform to keep AI agents from going rogue
- Nvidia lança sistema projetado para impedir que agentes de IA saiam do controle
- Nvidia Launches New Tool To Shut Down Rogue Agents, Unveils $150 Billion Stock Buyback, Largest Ever
- Nvidia releases AI safety software it says could have stopped Hugging Face hack