AI Is Becoming More Powerful—but Also More Secretive
Un reciente estudio de la Universidad de Stanford revela que los principales sistemas de inteligencia artificial, incluidos los gigantes comerciales y los llamados modelos de código abierto, adolecen de graves déficits de transparencia. Ningún sistema evaluado alcanzó más del cincuenta y cuatro por ciento en un índice integral de apertura, lo que pone de manifiesto una falta generalizada de divulgación en toda la industria respecto a los datos de entrenamiento, el uso de hardware y el impacto ambiental. Esta opacidad se debe a los temores corporativos sobre la ventaja competitiva y el posible uso indebido, lo que ha generado una significativa oscuridad informativa en torno a la creación de algoritmos poderosos. Esta tendencia señala un cambio peligroso en la investigación de IA, alejándose de la investigación científica colaborativa hacia el secreto propietario. Al ocultar detalles críticos sobre el desarrollo de los modelos y las fuentes de datos, las empresas reducen la rendición de cuentas y la fiabilidad, dificultando que la comunidad en general evalúe los riesgos de seguridad o verifique las afirmaciones. Como consecuencia, el campo es cada vez menos capaz de producir avances científicos verificables, ya que los investigadores externos no pueden auditar ni reproducir los resultados sin un acceso completo a las metodologías y recursos subyacentes. Para la comunidad de datos abiertos, este artículo es de gran relevancia, pues expone la brecha entre las etiquetas de "código abierto" y la accesibilidad real. Los datos verdaderamente abiertos requieren una documentación transparente sobre su origen, curación y licenciamiento; sin embargo, incluso los modelos comercializados como abiertos no divulgan detalles esenciales sobre los datos de entrenamiento. Esta falta de transparencia genuina obstaculiza el desarrollo de sistemas de IA confiables y socava los esfuerzos por garantizar estándares éticos, demostrando que, sin requisitos rigurosos de divulgación, la promesa de los datos abiertos en el ámbito de la IA sigue siendo en gran medida incumplida.
Source: wired.comPublished on 2023-10-20
Related news
- University of Turku and SiloGen launch consortium to build the world’s largest open LLM
- Universal Music demanda a Anthropic por las letras de canciones generadas por la IA
- Meta, Microsoft y Bloomberg, demandados por herramientas de IA
- Los socialistas denuncian que Catalá ha puesto 31.000 multas en Ciutat Vella desde que gobierna