‘Data poisoning’: How artists are fighting back against Artificial Intelligence image generators

El envenenamiento de datos, ejemplificado por herramientas como Nightshade, permite a los artistas alterar sutilmente las imágenes para que los conjuntos de datos de entrenamiento de IA no autorizados aprendan asociaciones incorrectas. Esta táctica defensiva provoca que los modelos generativos produzcan resultados impredecibles y distorsionados al procesar conceptos relacionados. La conclusión principal es que el raspado indiscriminado de datos en línea socava la integridad de los sistemas de IA y viola los derechos morales de los creadores, quienes carecen de control sobre sus obras. Este fenómeno destaca una tensión crítica en las prácticas de datos abiertos, donde la suposición de que la información públicamente disponible puede ser reutilizada libremente entra en conflicto con la necesidad de una obtención ética de los datos. El artículo sugiere que confiar únicamente en soluciones técnicas, como el modelado por conjuntos o las auditorías, es insuficiente. En su lugar, aboga por una gobernanza más estricta en cuanto al origen de los datos, enfatizando que el consentimiento y las licencias deben preceder a la inclusión de obras creativas en los conjuntos de datos de entrenamiento. La relevancia para los datos abiertos radica en la urgente necesidad de redefinir los estándares de recopilación de datos. Al igual que los sistemas de reconocimiento facial enfrentaron críticas por violaciones de la privacidad, la IA generativa está siendo objeto de escrutinio por infracciones de propiedad intelectual. Este artículo argumenta que las iniciativas de datos abiertos deben evolucionar para respetar los derechos de los creadores, pasando de una cultura de recolección sin restricciones a una que priorice el uso autorizado, transparente y respetuoso de los datos, garantizando así tanto la fiabilidad tecnológica como el cumplimiento ético.

Source: scroll.in
Published on 2023-12-22

'Hope this helps': Emails reveal police had detailed information about Nathaniel Train almost a year before Wieambilla terror attack »

Datos Abiertos (Open data)

Related news