Photos of Australian children found in AI training dataset, create deepfake risk | Biometric Update
El uso no autorizado de fotografías de niños para entrenar modelos de inteligencia artificial pone de manifiesto una vulnerabilidad crítica en las prácticas de datos abiertos. Al extraer imágenes sin consentimiento de internet, conjuntos de datos como Laion-5B exponen a los menores a graves riesgos de privacidad, incluido el rastreo de identidad y la creación de deepfakes dañinos. Este incidente demuestra cómo la recopilación de datos abiertos puede facilitar inadvertidamente daños significativos cuando faltan mecanismos adecuados de consentimiento. El problema central radica en la discrepancia entre la disponibilidad de datos y la responsabilidad ética. Aunque las organizaciones argumentan que sus conjuntos de datos simplemente agregan enlaces de acceso público, no tienen en cuenta el posible uso indebido de esos datos por parte de terceros. Esto crea un ecosistema peligroso en el que se recopila información biométrica personal sin el conocimiento de los afectados, lo que tiene consecuencias reales, como la generación de material de abuso sexual infantil. Este caso es fundamental para los datos abiertos porque subraya la urgente necesidad de marcos de gobernanza sólidos. Revela que la apertura técnica sin salvaguardas legales compromete los derechos individuales, especialmente de las poblaciones vulnerables. En consecuencia, existe una creciente necesidad de desarrollar estándares éticos y legislación que prioricen el consentimiento de los titulares de los datos, asegurando que las iniciativas de datos abiertos no se realicen a expensas de la seguridad y la privacidad personal.
Source: biometricupdate.comPublished on 2024-07-04
Related news
- Photos Of Australian Kids Have Been Found In A Massive AI Training Data Set. What Can We Do?
- Regulaciones impulsan la implementación de modelos de gobernanza de datos | Diario Financiero
- Expertos en ciberseguridad desmontan el ‘pajaporte’: “es el sueño húmedo de un dictador”
- Even staunch fans are calling out Apple's less-than-transparent AI training data harvesting