AI image-generators being trained on explicit photos of children
El descubrimiento de material de abuso sexual infantil dentro del conjunto de datos LAION, un recurso fundamental para entrenar a los principales generadores de imágenes por inteligencia artificial, revela una falla crítica en el desarrollo de IA abierta. Esta contaminación ha permitido la creación de imágenes explícitas realistas de menores, demostrando cómo los datos no verificados y de acceso público pueden ser explotados para dañar a los niños. El incidente pone de manifiesto las graves consecuencias de priorizar el acceso rápido y abierto a los datos sobre protocolos de seguridad rigurosos y una evaluación ética exhaustiva durante el proceso de entrenamiento. Este caso subraya los riesgos inherentes a la democratización de grandes raspados de internet sin una consulta previa con expertos en seguridad infantil. La presencia de contenido ilegal en modelos ampliamente utilizados, como Stable Diffusion, muestra que una vez que los datos dañinos entran en el dominio público, resulta casi imposible retirarlos o desinfectarlos por completo. Esto exige un cambio desde el control reactivo de daños hacia la prevención proactiva, donde los desarrolladores deben implementar filtros más estrictos y supervisión antes de liberar conjuntos de datos abiertos, con el fin de evitar la reafirmación de abusos previos. Para la comunidad de datos abiertos, este informe constituye una advertencia contundente de que la transparencia no puede lograrse a expensas de la seguridad. Desafía la filosofía del código abierto al argumentar que ciertos tipos de datos deben confinarse a entornos de investigación controlados en lugar de distribuirse públicamente. En consecuencia, las partes interesadas deben abogar por mecanismos de filtrado robustos y estandarizados, así como por marcos legales que protejan la privacidad individual, asegurando que las iniciativas abiertas no faciliten inadvertidamente la explotación.
Source: euronews.comPublished on 2023-12-21