Llega una herramienta que previene el uso de obras de arte en la capacitación de modelos de IA

Llega una herramienta que previene el uso de obras de arte en la capacitación de modelos de IA

El artículo destaca un conflicto ético crítico en el desarrollo de la inteligencia artificial generativa, específicamente en lo que respecta a los modelos de generación de imágenes. Estos sistemas se entrenan con frecuencia utilizando obras artísticas protegidas por derechos de autor, sin consentimiento ni compensación, lo que genera un desequilibrio significativo de poder. Este contexto es fundamental para los debates sobre datos abiertos, ya que cuestiona la suposición de que los datos de acceso público pueden ser recolectados libremente para el entrenamiento comercial de la IA, impulsando una reevaluación del origen de los datos y de los derechos de propiedad intelectual en el ecosistema digital. Para contrarrestar esta situación, están surgiendo nuevas tecnologías defensivas como Kin.art, diseñadas para "envenenar" los conjuntos de datos de entrenamiento. A diferencia de soluciones anteriores, esta herramienta oculta los detalles de las imágenes y modifica los metadatos para impedir su ingestión no autorizada, actuando como una medida preventiva en lugar de correctiva. Al hacer que el proceso de entrenamiento sea menos efectivo o más costoso para los desarrolladores, los artistas pueden proteger su obra. Esto cambia el relato, pasando de la exposición pasiva a la soberanía activa de los datos, y demuestra cómo las intervenciones técnicas pueden hacer cumplir límites éticos en el uso de datos abiertos. La relevancia para los datos abiertos radica en el potencial de estas herramientas para convertirse en servicios estándar para plataformas de todos los tamaños. A medida que los desarrolladores buscan ofrecer protección contra el raspado (scraping) no autorizado por parte de la IA, la definición de datos abiertos podría evolucionar para incluir mecanismos de exclusión voluntaria (opt-out) y estándares de integridad de datos. Esto subraya la urgente necesidad de marcos transparentes y basados en el consentimiento en el desarrollo de la IA, asegurando que la apertura de los datos no vulnera los derechos fundamentales de los creadores y propietarios de contenido.

Noticias relacionadas

• This Chinese Startup Is Winning the Open Source AI Race
• Wishart supports ‘ground-breaking’ Freedom of Information reform proposals
• City's worst postcodes for knife attacks as ten people a week stabbed
• Sierra Leone’s Freedom of Information Act needs activating
• Will there be accountability for Uvalde?