Nightshade: New Tool to "poison" AI models scraping artworks
Nightshade es una herramienta desarrollada para proteger la obra de los artistas frente al entrenamiento no autorizado de modelos de inteligencia artificial, alterando sutilmente las imágenes para convertirlas en «muestras envenenadas». Estas modificaciones son invisibles para los observadores humanos, pero introducen errores significativos en los modelos de IA, lo que provoca que interpreten incorrectamente el contenido y generen salidas erróneas. Este enfoque busca hacer técnicamente ineficiente el raspado no autorizado de datos, incrementando así el costo y el riesgo para las empresas que ignoran los derechos de los creadores. La relevancia de Nightshade para los datos abiertos radica en cuestionar la suposición actual de que los datos de la web pueden utilizarse libremente para el entrenamiento sin consentimiento. Al demostrar que la integridad de los datos puede verse comprometida en su origen, Nightshade pone de manifiesto la vulnerabilidad de los conjuntos de datos a gran escala frente a manipulaciones dirigidas. Este enfoque desplaza el relato desde la extracción pasiva de datos hacia la soberanía activa de los datos, sugiriendo que las futuras prácticas de datos abiertos deben tener en cuenta la posibilidad de que los creadores degraden intencionadamente la utilidad de sus contribuciones si no se respetan sus condiciones de licencia. Sin embargo, este método plantea preocupaciones éticas y prácticas respecto a la integridad de los conjuntos de datos abiertos. Los críticos consideran que herramientas como esta constituyen una forma de ciberataque, que podría corromper recursos de dominio público y complicar la reproducibilidad en la investigación de aprendizaje automático. Este incidente subraya la creciente tensión entre la filosofía de los datos abiertos y la protección de los creadores, señalando la necesidad de marcos jurídicos más sólidos y de directrices éticas que equilibren la innovación con los derechos de propiedad intelectual.
Source: medianama.comPublished on 2024-01-30