Descubren miles de imágenes de abuso sexual a menores en las librerías con las que se entrenan las inteligencias artificiales
Una investigación reciente reveló que el conjunto de datos LAION-5B, una vasta colección abierta de miles de millones de imágenes utilizada para entrenar inteligencia artificial generativa, contiene más de mil casos confirmados de material de abuso sexual infantil. Este descubrimiento pone de manifiesto una vulnerabilidad crítica en las fuentes de datos fundamentales de modelos de IA populares, como Stable Diffusion, que dependen de contenido extraído de la web para aprender conceptos visuales. Aunque los desarrolladores emplean filtros y listas de palabras bloqueadas para mitigar el daño, la enorme escala de estos conjuntos de datos públicos hace imposible una revisión manual exhaustiva, lo que permite que el contenido ilegal persista en los datos de entrenamiento. La relevancia para el ámbito de los datos abiertos es profunda, ya que expone la tensión entre el ethos de los códigos abiertos, que promueve conjuntos de datos compartidos y accesibles, y la necesidad ética de garantizar la calidad y la seguridad de los datos. Las iniciativas de datos abiertos suelen priorizar el volumen y la accesibilidad, pero este incidente demuestra que, sin mecanismos rigurosos de curación y verificación, estos repositorios pueden propagar inadvertidamente material dañino. La capacidad de los sistemas de IA entrenados con estas colecciones no verificadas para reproducir potencialmente imágenes similares subraya la urgente necesidad de una rendición de cuentas transparente en cuanto al origen de los datos. En última instancia, este caso obliga a reevaluar cómo se gestionan y mantienen los conjuntos de datos abiertos. Sugiere que la comunidad de datos abiertos debe desarrollar estándares más sólidos para el filtrado ético y herramientas de reporte colaborativo que identifiquen automáticamente el contenido ilegal. La retirada temporal de estos catálogos por parte de LAION representa un momento crucial para la industria, enfatizando que la apertura no puede lograrse a expensas de la seguridad, y que los datos abiertos sostenibles requieren una supervisión activa y continua para evitar que el aprendizaje algorítmico refuerce los daños sociales.
Fuente: elmundo.esPublicado el 2023-12-21