Qué es el data poisoning, la técnica de los artistas para “envenenar” inteligencias artificiales generativas de imágenes
La tensión central en la inteligencia artificial generativa reside en la controversia legal y ética en torno a los datos de entrenamiento utilizados por los desarrolladores. Las principales empresas tecnológicas dependen de grandes volúmenes de contenido creado por humanos, incluidas obras protegidas por derechos de autor, para entrenar sus algoritmos. Esta práctica ha desencadenado importantes batallas legales, con autores y agencias demandando a las empresas por supuestas violaciones de la propiedad intelectual, argumentando que la extracción no autorizada de material protegido constituye una infracción directa de los derechos de los creadores. En respuesta a estas injusticias percibidas, ha surgido una nueva estrategia defensiva que implica técnicas de "envenenamiento de datos", como Nightshade. Al realizar alteraciones imperceptibles en las obras artísticas, los creadores pueden manipular la forma en que los modelos de inteligencia artificial interpretan su contenido, provocando que los algoritmos aprendan asociaciones incorrectas. Este enfoque tiene como objetivo interrumpir la precisión y la fiabilidad de los modelos generativos, forzando una reevaluación crítica de cómo estos sistemas procesan y utilizan los activos digitales sin permiso explícito. Este desarrollo es altamente relevante para los datos abiertos, ya que cuestiona la suposición de que la información de acceso público está exenta de restricciones éticas. Destaca la necesidad urgente de una gobernanza transparente de los datos y marcos de licenciamiento claros que distingan entre el acceso abierto y la propiedad intelectual restringida. En última instancia, subraya la importancia de respetar los derechos de los creadores dentro de los ecosistemas abiertos, impulsando un equilibrio más equitativo entre la innovación tecnológica y la propiedad individual en la economía basada en datos.
Fuente: tn.com.arPublicado el 2024-01-01
Noticias relacionadas
- La AMI apoya la demanda de "The New York Times" contra Microsoft y Open AI al usar la IA sin derechos de autor
- FoI Act: MRA Decries Poor Funding for Implementation In 2024 Budget | African Examiner
- El número de empresas con más de 1.000 empleados aumentó en 101 durante la pandemia
- Bahrain shines in the GCC Digital Government Award