Silicon Valley Sickos: Study Reveals AI Image Generators Trained on Child Pornography
Investigaciones recientes han expuesto la inquietante inclusión de imágenes explícitas de abuso infantil en los conjuntos de datos de entrenamiento de los principales generadores de imágenes por inteligencia artificial. Este hallazgo cambia fundamentalmente la comprensión del funcionamiento de estos sistemas, revelando que no se limitan a sintetizar nuevo contenido abusivo a partir de fuentes inocuas, sino que incorporan directamente material ilegal. Como consecuencia, las herramientas de IA pueden ahora generar pornografía deepfake hiperrealista de menores, planteando amenazas sin precedentes para la reputación y el futuro de las víctimas. La urgencia de esta crisis se ve amplificada por la naturaleza de código abierto de muchos modelos de IA, lo que facilita la distribución rápida y generalizada de herramientas inseguras. Incluso cuando las organizaciones intentan corregir estos problemas actualizando los modelos, las versiones más antiguas y no reguladas siguen siendo accesibles en línea. Esta persistencia pone de manifiesto una brecha crítica en la rendición de cuentas, donde la carrera competitiva por el dominio del mercado a menudo prevalece sobre los protocolos de seguridad necesarios, dejando a los usuarios vulnerables ante tecnologías sofisticadas y dañinas. Esta revelación es fundamental para los debates sobre datos abiertos, ya que expone las graves lagunas éticas en los conjuntos de datos públicos. Demuestra cómo la información no curada, a menudo asumida como inofensiva, puede ser utilizada como arma cuando se escala mediante el aprendizaje automático. El incidente subraya la necesidad crítica de una gobernanza rigurosa, una obtención ética de los datos y filtros de seguridad en los repositorios de datos abiertos para prevenir la explotación maliciosa y proteger a las poblaciones vulnerables del daño digital.
Source: breitbart.comPublished on 2023-12-21