Image AIs shown to memorise training data
Image AIs shown to memorise training data
Los generadores de imágenes basados en inteligencia artificial (IA) suelen memorizar y reconstruir los datos con los que fueron entrenados, lo que genera graves riesgos para la privacidad. Esta vulnerabilidad permite la regeneración de fotografías personales y logotipos protegidos por derechos de autor, lo que podría violar las garantías de confidencialidad en ámbitos sensibles como la investigación médica. El estudio destaca los peligros éticos de utilizar datos públicos no seleccionados ni supervisados adecuadamente. A medida que las aplicaciones de IA se expanden hacia dominios privados, comprender estos mecanismos de memoria se vuelve fundamental para prevenir fugas involuntarias de datos y la creación de falsificaciones digitales. Este problema es crucial para el movimiento de datos abiertos, ya que cuestiona la suposición de que compartir conjuntos de datos de manera segura fomenta la innovación. Las prácticas responsables de datos abiertos deben ahora incluir salvaguardas rigurosas de privacidad y auditorías éticas para mitigar los riesgos inherentes a los potentes modelos generativos.
Fuente: itnews.com.auPublicado el 2023-02-08