Data poisoning tool lets artists fight back against AI scraping. Here's how

Investigadores de la Universidad de Chicago han desarrollado Nightshade, una herramienta defensiva que permite a los artistas visuales proteger sus obras del entrenamiento no autorizado de modelos de inteligencia artificial generativa. Al incorporar alteraciones invisibles en los píxeles de las imágenes digitales, la herramienta “envenena” los datos utilizados para entrenar los modelos. Estos cambios sutiles provocan una confusión significativa en la IA, lo que lleva a que esta identifique incorrectamente los sujetos y produzca resultados caóticos, impredecibles e inútiles que no coinciden con las indicaciones del usuario. La eficacia de este enfoque radica en su capacidad para corromper términos específicos y extenderse a conceptos y sinónimos asociados. En consecuencia, resulta extremadamente difícil para los desarrolladores eliminar los datos corrompidos, ya que esto requiere identificar y borrar muestras individuales en lugar de filtrar simplemente ruido. Esta complejidad actúa como un fuerte disuasorio contra el raspado indiscriminado de datos, obligando a las empresas de IA a reconsiderar su dependencia de obras creativas sin licencia y fomentando una mayor cautela al utilizar modelos generativos. Este desarrollo es altamente relevante en el debate sobre los datos abiertos, ya que destaca la tensión crítica entre la disponibilidad abierta de la información digital para el entrenamiento de IA y los derechos de los creadores individuales. Subraya la necesidad de prácticas transparentes y éticas en la obtención de datos y demuestra cómo las salvaguardias técnicas pueden empoderar a las personas para controlar sus huellas digitales. A medida que el movimiento de datos abiertos evoluciona, herramientas como Nightshade ilustran la necesidad de equilibrar la innovación con el respeto a la propiedad intelectual, impulsando a la industria hacia ecosistemas de datos más sostenibles y basados en el consentimiento.

Source: zdnet.com
Published on 2023-10-25

AMD adds support for super-popular open source AI tool to its most powerful GPU – now imagine what would happen if an AMD APU could run Stable Diffusion out of the box »

Datos Abiertos (Open data)

Related news