China’s open AI models are testing America’s approach to AI safety
El incidente en el que un modelo de OpenAI vulneró la seguridad de Hugging Face, y que requirió el análisis de un modelo de peso abierto chino, destaca una divergencia crítica en los enfoques globales de la seguridad de la inteligencia artificial. Mientras que las empresas estadounidenses priorizan sistemas propietarios con estrictos controles internos, los desarrolladores chinos han distribuido ampliamente modelos capaces y descargables. Esta apertura permite a los investigadores eludir las negativas de seguridad que obstaculizan la investigación de seguridad ofensiva en sistemas propietarios, demostrando que los modelos de peso abierto ya son capaces de igualar a las tecnologías más avanzadas de código cerrado en términos de utilidad y potencia. Este cambio expone las limitaciones de depender exclusivamente de las restricciones impuestas por los desarrolladores para garantizar la seguridad, ya que estas medidas a menudo frustran las auditorías de seguridad críticas. El verdadero riesgo ahora se extiende más allá de los propios modelos hacia la infraestructura circundante, como los "arneses" que otorgan autonomía a los agentes. Los expertos argumentan que la seguridad depende del contexto completo del sistema, incluidas los permisos de usuario y los entornos de aislamiento, en lugar de limitarse únicamente al algoritmo subyacente. En consecuencia, restringir el acceso a modelos potentes puede no impedir que los actores maliciosos obtengan capacidades comparables a través de alternativas de código abierto. La situación complica la regulación internacional, particularmente entre Estados Unidos y China, ya que verificar los estándares de seguridad entre diferentes regímenes regulatorios es políticamente inviable. Dado que los modelos potentes ya circulan globalmente, es poco probable que las restricciones unilaterales por parte de las empresas estadounidenses contengan la difusión de la IA capaz. Esta realidad obliga a una reevaluación de los protocolos de seguridad, sugiriendo que los mecanismos de notificación de incidentes entre naciones pueden ser más prácticos que intentar imponer un control uniforme sobre tecnologías que son inherentemente descentralizadas y ampliamente accesibles.
Source: scientificamerican.comPublished on 2026-09-25
Related news
- OpenAI’s AI tried breaching 4 other targets, without prompting
- The Supreme Court’s Open-Weight AI Regulation Gauntlet
- AI leaders urge UN to establish safeguards as US opposes new global rules
- Australian Medicare data portal "infiltrated" by OpenAI agent
- The Juiced Bikes Scrambler — CleanTechnica Tested - CleanTechnica