Private API keys and passwords found in AI training dataset - nearly 12,000 details leaked
Private API keys and passwords found in AI training dataset - nearly 12,000 details leaked
Investigadores de seguridad descubrieron miles de claves de API y contraseñas válidas dentro del conjunto de datos Common Crawl, un enorme archivo de datos web. Estos secretos codificados en el código, a menudo dejados por los desarrolladores durante la programación, se encontraron en miles de millones de páginas. Esto expone vulnerabilidades significativas, ya que los actores maliciosos pueden explotar fácilmente estas credenciales no eliminadas para acceder sin autorización. Los hallazgos son particularmente alarmantes porque los principales modelos de lenguaje grandes (LLMs) dependen de Common Crawl como fuente de datos de entrenamiento. A pesar de los filtros existentes destinados a eliminar información sensible, es probable que muchos secretos persistan durante el proceso de ingestión. Esto sugiere que los sistemas de IA generativa pueden aprender y reproducir inadvertidamente datos privados, planteando graves riesgos de privacidad y seguridad para los usuarios cuya información fue archivada. Este artículo es crucial para la comunidad de datos abiertos, ya que destaca los riesgos inherentes a la publicación de archivos web sin filtrar. Subraya la necesidad de técnicas robustas de sanitización de datos y preservación de la privacidad antes de que los conjuntos de datos estén disponibles públicamente o se utilicen para el entrenamiento de IA. Los desarrolladores y las organizaciones que contribuyen a conjuntos de datos abiertos deben priorizar la seguridad para evitar la fuga accidental de información sensible en repositorios públicos y tecnologías derivadas.
Fuente: techradar.comPublicado el 2025-03-04