HRW Flags Personal Images of Children in AI Training Datasets
Esta investigación destaca una falla crítica en el ecosistema actual de datos abiertos, donde las imágenes personales de niños brasileños fueron extraídas y recopiladas en el conjunto de datos LAION-5B sin su consentimiento. La inclusión de estas imágenes, junto con información personalmente identificable, expone una grave vulnerabilidad de privacidad inherente a los conjuntos de datos de código abierto no curados. Esto demuestra cómo el movimiento de datos abiertos, al carecer de salvaguardas éticas rigurosas, puede facilitar inadvertidamente la explotación de poblaciones vulnerables, socavando la confianza y la seguridad necesarias para el intercambio responsable de datos. El principal riesgo radica en la capacidad de los modelos de inteligencia artificial entrenados con estos conjuntos de datos para reproducir copias exactas de fotografías privadas o generar medios sintéticos dañinos, incluido material de abuso sexual infantil. Esto sugiere que las prácticas de datos abiertos deben evolucionar más allá de la mera accesibilidad para incluir mecanismos estrictos de rendición de cuentas. El incidente revela que las barreras técnicas existentes son insuficientes, lo que enfatiza la urgente necesidad de establecer nuevas normas que impidan la replicación digital no consentida de personas, especialmente menores de edad, dentro de los sistemas de inteligencia artificial generativa. Este artículo es altamente relevante para el ámbito de los datos abiertos, ya que cuestiona la suposición de que la transparencia y la apertura son inherentemente beneficiosas sin una gobernanza adecuada. Subraya la necesidad de implementar marcos robustos de higiene de datos y consentimiento dentro de los conjuntos de datos abiertos para mitigar los daños en el mundo real. Al exponer estos peligros, el informe insta a reformas políticas inmediatas y a soluciones técnicas que equilibren los beneficios de los datos abiertos con los derechos fundamentales a la privacidad y la seguridad, asegurando que las iniciativas de datos abiertos no se conviertan en vehículos de abuso.
Source: medianama.comPublished on 2024-06-12
Related news
- Q&A: Xiao Qiang on the anniversary of Tiananmen Square and the right to information in China
- Micaela Mantegna, invitada estrella en Sónar+D, el área de cultura digital en el famoso festival de Barcelona
- Spawning wants to build more ethical AI training datasets | TechCrunch
- French open-source AI model startup Mistral AI raises $640M at $6B valuation
- ‘Your petition is receiving attention’ – BoG replies Ayariga on 2023 losses, rising headquarters costs – - Ghanamma.com