AI Tools Are Secretly Training on Real Images of Children
Un informe reciente revela que los conjuntos de datos de código abierto, en particular LAION-5B, han extraído imágenes y datos personales de niños brasileños sin su consentimiento para entrenar modelos de inteligencia artificial. Esta práctica viola la privacidad de los menores, ya que el contenido originalmente compartido en contextos privados o semiprivados, como blogs familiares, fue recopilado a partir de la web pública. La principal preocupación es que estos sistemas de IA pueden generar imágenes realistas y manipuladas de menores, lo que crea riesgos significativos para la seguridad de personas que nunca anticiparon que sus datos personales serían utilizados para el desarrollo de tecnología comercial. Este incidente destaca una tensión crítica en el ecosistema de datos abiertos: el equilibrio entre la disponibilidad de datos a gran escala para el entrenamiento y los estándares éticos fundamentales en materia de consentimiento. Aunque organizaciones como LAION han eliminado los enlaces señalados, el problema subyacente persiste: los conjuntos de datos abiertos a menudo carecen de mecanismos rigurosos para verificar el permiso del usuario antes de incorporar información personal. La facilidad con la que el contenido sensible de diversas plataformas en línea ingresa a estos repositorios subraya la necesidad de una gobernanza más estricta y mayor transparencia en los procesos de curación de datos, a fin de prevenir el uso no consentido de la vida privada. La relevancia para los datos abiertos radica en la urgente necesidad de redefinir el concepto de "abierto" para incluir la responsabilidad ética. A medida que las capacidades de la IA crecen, la suposición de que los datos públicamente disponibles son de libre uso se vuelve cada vez más peligrosa, especialmente para poblaciones vulnerables. Las partes interesadas deben establecer protocolos claros para el manejo de datos personales en conjuntos de datos abiertos, asegurando que los beneficios de la investigación compartida no se logren a costa de los derechos individuales. Este caso sirve como advertencia de que, sin salvaguardas éticas, las iniciativas de datos abiertos corren el riesgo de perpetuar daños en lugar de fomentar el progreso.
Source: wired.comPublished on 2024-06-11