La Iniciativa de Código Abierto (Open Source Initiative, OSI) ha presentado una definición específica de inteligencia artificial (IA) para abordar la creciente confusión en torno a las afirmaciones de apertura. A diferencia del software tradicional, donde la transparencia del código fuente es clara, los sistemas de IA suelen ocultar su funcionamiento. Esta nueva definición exige que los usuarios puedan utilizar, modificar y distribuir libremente el modelo, y también requiere transparencia respecto a los datos de entrenamiento, el código fuente y los pesos del modelo. Este cambio busca aclarar que simplemente liberar el código no es suficiente si los mecanismos subyacentes y los datos permanecen ocultos, estableciendo así un estándar más riguroso para lo que constituye una IA verdaderamente abierta. Una implicación central de esta definición es la exposición del "lavado de apertura" (open washing), una práctica mediante la cual las empresas comercializan modelos propietarios o parcialmente cerrados como si fueran de código abierto. Muchos proveedores importantes de IA, a pesar de sus afirmaciones, no revelan completamente los datos de entrenamiento ni los pesos del modelo, lo que plantea importantes preocupaciones éticas y de derechos de autor. Al destacar esta discrepancia, la definición ayuda a los investigadores y al público a distinguir entre el desarrollo colaborativo genuino y las tácticas de marketing que limitan la innovación. Subraya que la verdadera apertura requiere un conocimiento accesible sobre cómo funciona el sistema, no solo un acceso superficial a sus componentes. Este desarrollo es altamente relevante para la comunidad de datos abiertos, ya que establece un precedente para la transparencia de datos en el ámbito de la IA. El énfasis en la divulgación de los datos de entrenamiento impulsa un diálogo sobre los derechos de los datos, los sesgos y la obtención ética de datos, temas críticos para los defensores de los datos abiertos. Aunque la OSI carece de poder de aplicación, la definición sirve como un punto de referencia crucial para consumidores y reguladores a fin de identificar prácticas engañosas. A medida que los gobiernos refinan las regulaciones sobre IA, este marco proporciona una métrica estandarizada para evaluar las afirmaciones de apertura, asegurando que los beneficios de la innovación abierta no se vean socavados por intereses comerciales opacos.
Source:Published on 2024-08-24
Related news
- We're a big step closer to defining open source AI - but not everyone is happy
- Why GenAI might pose a risk to itself
- Red Juntos por Michoacán y IMAIP firmaron convenio de transparencia • Nsíntesis
- FOI Training At Economic Development Commission
- FOIA Friday: Chesapeake mayor faces questions for asking staff to help family member