Response to NTIA Request for Comment: “Dual Use Foundation Artificial Intelligence Models with Widely Available Model Weights”
La brecha entre los modelos de fundación cerrados y los abiertos se está ampliando debido a los costos de entrenamiento que se disparan, la escasez de datos y el creciente secretismo corporativo. Esta tendencia sugiere que las alternativas abiertas de alto rendimiento quedarán significativamente rezagadas respecto a las fronteras propietarias, ya que solo unos pocos laboratorios pueden permitirse los recursos necesarios para el desarrollo independiente. Para los defensores de los datos abiertos, esto destaca un cambio crítico en el que la accesibilidad se ve restringida no por la licencia, sino por las barreras financieras e informativas prohibitivas para la replicación. Sin embargo, la liberación de los pesos del modelo conlleva riesgos de seguridad significativos, particularmente la capacidad de que actores maliciosos eliminen fácilmente las barreras de seguridad y ajusten los modelos para propósitos maliciosos, como operaciones cibernéticas. Si bien esto plantea desafíos de seguridad nacional, también democratiza el acceso, potencialmente permitiendo que los adversarios eludan los controles de exportación de hardware. Esta dinámica complica los esfuerzos regulatorios, ya que la naturaleza irreversible de los pesos abiertos hace que el monitoreo y la mitigación sean mucho más difíciles que con el acceso solo a través de API. Por otro lado, los pesos abiertos fomentan la innovación esencial, la transparencia en la investigación y la autonomía del usuario al permitir la personalización y el autoalojamiento. A diferencia del software tradicional de código abierto, los modelos de IA presentan complejidades de seguridad únicas debido a su opacidad y la dificultad de verificar la robustez interna. Comprender estos compromisos es vital para los marcos de datos abiertos, ya que revelan que la "apertura" en la IA implica no solo la disponibilidad del código, sino también implicaciones complejas para la seguridad, la equidad y el futuro de la infraestructura tecnológica accesible.
Fuente: cnas.orgPublicado el 2024-04-05