A major AI training data set contains millions of examples of personal data

El raspado web (web scraping) captura inevitablemente información de identificación personal, incluidos documentos sensibles de identidad y currículos vinculados a personas reales. Esta exposición revela riesgos críticos de privacidad, ya que los conjuntos de datos destinados al entrenamiento de modelos de IA académicos o comerciales a menudo contienen tarjetas de crédito sin censurar, documentos de identidad gubernamentales e historias personales detalladas. La magnitud de este problema es profunda, lo que sugiere que casi cualquier contenido en línea probablemente ha sido ingerido en conjuntos de entrenamiento a gran escala sin el consentimiento adecuado ni su eliminación. El conjunto de datos DataComp CommonPool, ampliamente utilizado para entrenar modelos generativos, ejemplifica esta vulnerabilidad sistémica. Dado que comparte fuentes con conjuntos de datos importantes anteriores como LAION-5B, los mismos riesgos de privacidad persisten en numerosas aplicaciones derivadas. Con millones de descargas, es probable que estos datos hayan sido reutilizados en innumerables modelos, duplicando los riesgos y expandiendo la huella de la información privada expuesta en todo el ecosistema de IA. Esto destaca una falla fundamental en las prácticas actuales de datos abiertos respecto a los materiales obtenidos mediante raspado web. Las buenas intenciones no son suficientes para garantizar la privacidad, ya que la recolección a gran escala agrega automáticamente contenido sensible no verificado. Para las iniciativas de datos abiertos, esto subraya la necesidad urgente de un filtrado riguroso y supervisión ética, demostrando que la transparencia por sí sola no protege la privacidad individual en la era de la IA.

Fuente: technologyreview.com
Publicado el 2025-07-19

A major AI training data set contains millions of examples of personal data

Noticias relacionadas