Anthropic and OpenAI sound the alarm on AI safety — and seek to shape how it’s controlled

Los principales ejecutivos de inteligencia artificial están abogando cada vez más por una regulación estricta y auditorías de seguridad independientes, presentando sus modelos avanzados como amenazas existenciales para la humanidad. Esta narrativa estratégica cumple un doble propósito: intenta moldear el marco emergente de gobernanza, al tiempo que posiciona a estas empresas dominantes como la opción "segura" y responsable para los inversores, de cara a importantes cambios económicos y políticos. Al enfatizar los riesgos catastróficos, desvían efectivamente la atención de los daños inmediatos y tangibles, como el daño ambiental, los abusos en vigilancia y las aplicaciones militares. Los críticos argumentan que este enfoque permite a Silicon Valley establecer una barrera de autorregulación, asegurando su dominio en el mercado al fijar los términos de la supervisión en lugar de someterse a estándares gubernamentales imparciales. La insistencia de la industria en protocolos de evaluación privada suscita preocupaciones sobre la transparencia y posibles conflictos de interés, ya que las empresas parecen seleccionar a sus propios auditores. Esta dinámica crea una barrera de entrada para competidores más pequeños, consolidando el poder entre un puñado de gigantes tecnológicos que pueden aprovechar sus credenciales de seguridad para atraer capital y favor político. Para la comunidad de datos abiertos, este desarrollo es crítico porque una regulación interesada podría restringir el acceso a los datos y los pesos de los modelos necesarios para la verificación independiente y la rendición de cuentas pública. Si la seguridad se convierte en una justificación propietaria para la opacidad, socava los principios de transparencia y gobernanza colaborativa esenciales para los datos abiertos. Esta tendencia amenaza con centralizar el control sobre la infraestructura de IA, dificultando que investigadores y la sociedad civil examinen sistemas que cada vez influyen más en la información pública y en los procesos democráticos.

Source: adn.com
Published on 2026-09-28

Ammonnews : Hacking silence: When neural impulses become open data »

Datos Abiertos (Open data)

Related news