New data poisoning tool would punish AI for scraping art without permission
La Universidad de Chicago ha presentado Nightshade, una herramienta que permite a los artistas "envenenar" sus obras digitales para impedir el entrenamiento no autorizado de sistemas de inteligencia artificial. Al alterar sutilmente los píxeles de las imágenes, la herramienta engaña a los sistemas de IA para que interpreten erróneamente el contenido, como confundir gatos con perros. Esta contaminación degrada la precisión del modelo, dañando teóricamente su capacidad para generar salidas correctas a partir de datos contaminados. Esta innovación representa un cambio significativo en la defensa contra la infracción de derechos de autor por parte de la IA. A diferencia de métodos anteriores que simplemente ofuscaban el estilo, Nightshade corrompe activamente los conjuntos de datos de entrenamiento. Los expertos señalan que las defensas robustas actuales contra este tipo de ataques dirigidos son insuficientes, lo que sugiere que incluso los principales modelos de IA siguen siendo vulnerables a esta sofisticada contramedida, destacando una urgente carrera armamentística en la ética de los datos. Este desarrollo es crucial para los datos abiertos, ya que cuestiona la suposición de que las imágenes de acceso público son libres para su uso comercial sin restricciones. Obliga a una reevaluación de cómo se curan y utilizan los conjuntos de datos abiertos, enfatizando la necesidad de transparencia y consentimiento en el entrenamiento de la IA. A medida que los artistas obtienen medios técnicos para controlar sus contribuciones, la comunidad de datos abiertos debe abordar las implicaciones éticas del uso de fuentes de datos potencialmente contaminadas o no consentidas.
Source: cointelegraph.comPublished on 2023-10-26