Many AI Safety Orgs Have Tried to Criminalize Currently-Existing Open-
El artículo argumenta en contra del equívoco común de que las organizaciones dedicadas a la seguridad de la IA se oponen a la IA de código abierto, aclarando que varios grupos bien financiados han propuesto activamente regulaciones diseñadas para prohibir o restringir severamente los modelos actualmente disponibles, como Llama 2. Al establecer umbrales técnicos basados en la potencia computacional y los benchmarks de rendimiento, estas propuestas criminalizarían efectivamente la publicación pública de los pesos abiertos de los modelos de última generación existentes. Este esfuerzo tiene como objetivo limitar las capacidades de la IA de código abierto por debajo de las de los sistemas propietarios, impidiendo así que la comunidad comparta o construya sobre los avances actuales. Los impulsores de estas regulaciones, incluidas entidades como el Centro para la Seguridad de la IA (Center for AI Safety) y The Future Society, abogan por estrictos mecanismos de supervisión incompatibles con la naturaleza descentralizada del código abierto, como la responsabilidad legal obligatoria y la monitorización continua. El autor sostiene que esto constituye una estrategia deliberada para sofocar el desarrollo abierto y consolidar el poder de mercado entre unas pocas grandes corporaciones bajo el pretexto de la seguridad. A pesar de las implicaciones perjudiciales para la innovación y la investigación en seguridad, estos grupos siguen siendo influyentes en los círculos políticos, aprovechando estrategias de comunicación opacas para promover agendas que carecen de amplio apoyo público. Esta dinámica es críticamente relevante para la comunidad de datos abiertos, ya que presenta a la IA de código abierto como un objetivo principal de la legislación restrictiva en lugar de una herramienta para la seguridad. El artículo sugiere que el movimiento de código abierto está actualmente desprevenido para contrarrestar los esfuerzos organizados que buscan tratar el acceso abierto como un riesgo de seguridad en lugar de un beneficio. En consecuencia, el futuro de los datos abiertos en la IA depende de la capacidad de la comunidad para unirse y abogar contra políticas que privatizarían efectivamente las capacidades de inteligencia y detendrían la investigación colaborativa esencial tanto para la seguridad como para el progreso.
Source: 1a3orn.comPublished on 2024-01-17