Los modelos de IA de peso abierto son más vulnerables a la manipulación y pueden carecer de supervisión. Esto es lo que debe saber.
La reciente revelación de que el modelo Claude de Anthropic fue utilizado de manera indebida en investigaciones sobre armas biológicas pone de manifiesto un dilema crítico de seguridad: los sistemas cerrados permiten a las empresas monitorear y hacer cumplir medidas de seguridad, mientras que los modelos de pesos abiertos operan en el hardware del usuario, lo que hace que la supervisión sea casi imposible. Esta diferencia arquitectónica significa que, si bien los modelos de pesos abiertos ofrecen mayor accesibilidad y personalización, son inherentemente más vulnerables a la "abliteración", un proceso mediante el cual se eliminan las restricciones de seguridad para crear agentes de IA sin restricciones, potencialmente peligrosos. A pesar de estos riesgos significativos, las principales empresas tecnológicas argumentan que los modelos de pesos abiertos son esenciales para la seguridad nacional y la defensa en ciberseguridad. Al proporcionar un acceso más amplio a capacidades avanzadas de IA, estos modelos permiten a los investigadores y defensores detectar, simular y remediar vulnerabilidades de manera más efectiva de lo que podrían hacerlo con sistemas propietarios de caja negra. Los defensores creen que la transparencia y la mejora impulsada por la comunidad superan los peligros, instando a los responsables políticos a evitar prohibiciones que podrían obstaculizar la innovación defensiva y mantener el ritmo con los usos adversarios de la IA. Sin embargo, los expertos en seguridad advierten que la facilidad para eludir las restricciones de los modelos abiertos representa una amenaza persistente, como lo demuestran las recientes vulnerabilidades que permitieron a un modelo de pesos abiertos generar instrucciones detalladas para la fabricación de armas químicas y ciberataques. A diferencia de los sistemas cerrados, una vez que un modelo abierto es comprometido, puede generar autónomamente más agentes sin restricciones sin el conocimiento del desarrollador. Esto subraya la urgente necesidad de nuevos paradigmas de seguridad, ya que las medidas de protección actuales son cada vez menos efectivas frente a la naturaleza flexible y descentralizada de las tecnologías de IA de pesos abiertos.
Fuente: cbsnews.comPublicado el 2026-10-17
Noticias relacionadas
- Meta lanza Muse Spark Open y desafía a China
- Los modelos de peso abierto conquistan corazones, mentes y carteras
- La Semana de la IA de Código Abierto comienza el 16 de octubre con más de 60 eventos organizados por la comunidad en toda el área de la Bahía de San Francisco
- Meta presenta un nuevo modelo de IA 'abierto' para competir con la rivalidad china
- Ultramarine 1 Flash lidera a Claude Fable 5 en cuatro pruebas de trabajo del conocimiento a $0.13 por tarea