A major AI training data set contains millions of examples of personal data

A major AI training data set contains millions of examples of personal data

La investigación revela que se han extraído de la web pública enormes cantidades de documentos validados de identidad personal, incluidos pasaportes, tarjetas de crédito y currículos vívidos con información sensible. Estos conjuntos de datos, que a menudo se utilizan para entrenar modelos de inteligencia artificial generativa, contienen inadvertidamente información altamente privada, como identificadores gubernamentales, direcciones de domicilio y detalles demográficos. Esto confirma que prácticamente cualquier dato publicado en línea es susceptible de ser capturado en estas colecciones masivas, lo que plantea riesgos significativos para la privacidad, independientemente de la intención del usuario. La principal preocupación se centra en DataComp CommonPool, un conjunto de datos ampliamente utilizado destinado a la investigación académica, pero con licencia para uso comercial. Dado que se deriva de las mismas fuentes que modelos importantes como Stable Diffusion, comparte vulnerabilidades de privacidad similares. Debido al enorme número de descargas de este conjunto de datos, es probable que numerosos modelos comerciales derivados se hayan entrenado con los mismos datos comprometidos, duplicando y escalando efectivamente estas violaciones de privacidad en toda la industria de la inteligencia artificial, sin transparencia ni consentimiento. Esta situación es críticamente relevante para los datos abiertos, ya que cuestiona la suposición de que los datos públicos son seguros para su compartición o reutilización abierta. Demuestra que los datos de la web abierta inevitablemente contienen información personal no pública, por lo que la simple disponibilidad es insuficiente para garantizar un uso ético. Los desarrolladores y los responsables de políticas deben reconocer que los marcos de datos abiertos necesitan salvaguardas de privacidad robustas y procesos de validación para prevenir la proliferación accidental de identidades personales sensibles en las tuberías de entrenamiento de la inteligencia artificial.

Noticias relacionadas

• Alibaba Cloud ramps up efforts in open-source AI
• US and China Chart Diverging Paths in Global AI Action Plans | PYMNTS.com
• Alerta INE riesgos de confidencialidad por CURP biométrica
• CURP biométrica un reto de ciberseguridad: ¿Por qué el documento pone en riesgo tus datos personales?
• Ekiti man sues local government chairman over information on gate project cost, budget