‘Data poisoning’: How artists are fighting back against Artificial Intelligence image generators
El envenenamiento de datos, ejemplificado por herramientas como Nightshade, permite a los artistas alterar sutilmente las imágenes de manera que interrumpan el entrenamiento de la IA, aunque sigan pareciendo normales para los humanos. Cuando los modelos no autorizados ingieren estos conjuntos de datos corrompidos, producen resultados erráticos, como la identificación incorrecta de objetos o la aplicación de estilos artísticos inadecuados. Esto sirve como un mecanismo de defensa contra la extracción a gran escala y sin consentimiento de obras protegidas por derechos de autor, que alimenta a muchos sistemas de IA generativa. Este fenómeno destaca una tensión crítica en las prácticas de datos abiertos: las implicaciones éticas de la recolección indiscriminada de información pública para el entrenamiento de modelos comerciales. Desafía la suposición de que los datos en línea son de libre uso, argumentando que tales prácticas infringen los derechos morales de los creadores. En consecuencia, el envenenamiento de datos actúa como una forma de gobernanza tecnológica, obligando a los proveedores de tecnología a reconsiderar su dependencia de fuentes de datos no verificadas y potencialmente infractoras. Para abordar estas vulnerabilidades, las partes interesadas proponen auditorías más estrictas de la procedencia de los datos y el uso de modelos de conjunto (ensemble) para identificar valores atípicos. En última instancia, este problema subraya que los datos abiertos deben equilibrarse con el respeto a la propiedad intelectual y los derechos de los usuarios. Reconocer el envenenamiento de datos no solo como un fallo técnico, sino como una respuesta a violaciones sistémicas de privacidad y derechos de autor, es esencial para desarrollar marcos de IA sostenibles y éticos.
Source: scroll.inPublished on 2023-12-26