University of Chicago Researchers Develop Technique to Poison Generative AI Image Scraping -- Campus Technology

Investigadores de la Universidad de Chicago han creado Nightshade, una técnica que envenena los modelos de IA generativa de imágenes con una entrada mínima. Al incorporar alteraciones sutiles e indetectables en los píxeles, la herramienta interrumpe la capacidad del modelo para generar imágenes significativas basadas en indicaciones específicas. Este método ofrece una defensa poderosa para artistas e instituciones, permitiéndoles proteger sus derechos de autor contra el raspado no autorizado de datos al desestabilizar los sistemas subyacentes de aprendizaje automático. La efectividad de este enfoque radica en su capacidad para propagarse a través de solicitudes similares, colapsando gradualmente la funcionalidad del modelo. A diferencia de mecanismos de defensa anteriores como Glaze, que simplemente ocultan estilos artísticos, Nightshade degrada activamente la calidad de los datos de entrenamiento. Esto crea una barrera significativa para las empresas de IA que dependen del raspado no autorizado de la web, ya que incluso un pequeño número de imágenes comprometidas puede arruinar la integridad de todo el sistema generativo. Este desarrollo es altamente relevante para los datos abiertos, ya que desafía la suposición predominante de que la información públicamente disponible puede ser recolectada libremente para entrenamiento comercial. Destaca las complejidades éticas y técnicas del licenciamiento de conjuntos de datos, potencialmente obligando a la industria a negociar acuerdos formales con los creadores de contenido. En consecuencia, subraya la necesidad de prácticas transparentes, consensuadas y legalmente sólidas para la obtención de datos dentro del ecosistema de datos abiertos.

Source: campustechnology.com
Published on 2023-11-07

Datos Abiertos (Open data)

Related news