Biden AI executive order 'certainly challenging' for open-source AI — industry insiders
La orden ejecutiva del presidente Biden sobre la seguridad de la inteligencia artificial establece nuevas normas estrictas destinadas a proteger la seguridad nacional y la salud pública, exigiendo que los desarrolladores de modelos de alto riesgo compartan los resultados de las pruebas de seguridad con el gobierno. Este cambio regulatorio enfatiza la confianza y la transparencia, obligando a las agencias a adoptar técnicas que preserven la privacidad y protocolos de uso ético. Esta medida refleja un esfuerzo gubernamental por equilibrar la innovación con una mitigación significativa de riesgos, sentando un precedente sobre cómo se monitorean y gobiernan las tecnologías de IA dentro de los sectores de infraestructura crítica. Sin embargo, la orden ha generado preocupación porque sus definiciones amplias y los complejos requisitos de cumplimiento pueden cargar desproporcionadamente sobre las empresas más pequeñas y la comunidad de código abierto. Los líderes de la industria argumentan que estas regulaciones corren el riesgo de asfixiar la innovación al crear barreras que solo las grandes empresas establecidas pueden permitirse superar, lo que podría llevar a la monopolización del mercado. Los críticos temen que la falta de orientación detallada genere incertidumbre, obligando a los desarrolladores a anticipar riesgos en productos aún en desarrollo, lo cual podría obstaculizar la iteración rápida y el desarrollo colaborativo esenciales para el ecosistema de IA de código abierto. La relevancia de los datos abiertos radica en la tensión entre la transparencia regulatoria y la apertura que impulsa el avance tecnológico. El código abierto depende de datos accesibles y del intercambio sin restricciones de código para garantizar la seguridad mediante el escrutinio colectivo y prevenir el control centralizado. Si los marcos regulatorios priorizan la seguridad a través de verificaciones de cumplimiento opacas y propietarias, podrían socavar los principios fundamentales de los datos abiertos, limitando el acceso público a los algoritmos y conjuntos de datos. Este cambio podría reducir la rendición de cuentas y la innovación, lo que sugiere que una gobernanza efectiva de la IA debe proteger la seguridad sin comprometer el intercambio abierto de información que alimenta el progreso.
Source: cointelegraph.comPublished on 2023-11-08