‘Data poisoning’: How artists are fighting back against Artificial Intelligence image generators
Este artículo explica cómo el "envenenamiento de datos" actúa como un mecanismo de defensa para los artistas frente al raspado no autorizado de sus obras por parte de la inteligencia artificial, principalmente a través de herramientas como Nightshade. Al alterar sutilmente las imágenes para confundir la visión por computadora, mientras permanecen visualmente normales para los seres humanos, los creadores pueden corromper los conjuntos de datos de entrenamiento de los modelos de IA generativa. Esto produce resultados impredecibles, obligando efectivamente a las empresas tecnológicas a respetar los derechos de autor y la propiedad intelectual, al hacer que la recopilación de datos poco ética sea menos viable. La relevancia de este tema para los datos abiertos radica en la tensión crítica entre la cultura del raspado abierto y la integridad de los datos. Las iniciativas de datos abiertos suelen depender de vastos conjuntos de datos públicos no curados, pero este artículo demuestra cómo dichas prácticas pueden introducir problemas significativos de calidad y ética. Destaca que el acceso abierto no equivale al consentimiento abierto, mostrando cómo la recolección descontrolada de datos socava la confianza y la fiabilidad de los recursos de aprendizaje automático de código abierto. En consecuencia, el artículo aboga por una gobernanza más estricta en cuanto al origen de los datos, en lugar de depender únicamente de soluciones técnicas como el modelado por conjuntos (ensemble) o las auditorías. Sugiere que el envenenamiento de datos es una respuesta legítima a las intrusiones morales, desafiando la suposición de que los datos en línea son de libre uso sin restricciones. Esto subraya la necesidad de que los marcos de datos abiertos incorporen estándares de obtención ética y derechos de los usuarios, asegurando que la apertura no se logre a expensas de los derechos de los creadores ni de la estabilidad del sistema.
Source: scroll.inPublished on 2023-12-28
Related news
- The New York Times wants OpenAI and Microsoft to pay for training data | TechCrunch
- The NYT demanda a OpenAI y Microsoft por infracción a derechos de autor, al utilizar sus artículos para entrenar chatbots
- 'The New York Times' demanda a OpenAI y Microsoft por infracción de derechos de autor para entrenar la IA