Study shows AI image-generators being trained on explicit photos of children - ET Telecom
Una investigación reciente reveló que el conjunto de datos LAION, un recurso fundamental utilizado para entrenar importantes generadores de imágenes de inteligencia artificial de código abierto, contenía miles de imágenes que representaban abuso sexual infantil. Este descubrimiento pone de manifiesto una falla crítica en los procesos de curación de datos de iniciativas prominentes de datos abiertos, demostrando que, sin un filtrado riguroso, los conjuntos de datos de acceso público pueden reforzar inadvertidamente abusos del pasado y facilitar la creación de medios sintéticos dañinos. Los hallazgos subrayan la urgente necesidad de que la comunidad de datos abiertos priorice la seguridad y los estándares éticos junto con la accesibilidad. Si bien los desarrolladores argumentan que la democratización de la IA previene los monopolios corporativos, la presencia de contenido ilegal en conjuntos de datos abiertos plantea riesgos legales y morales significativos. Esto exige un cambio en la forma en que se curan los datos abiertos, sugiriendo que la transparencia por sí sola es insuficiente sin mecanismos robustos de evaluación previa al despliegue que involucren a expertos en seguridad infantil. Este artículo es relevante para el ámbito de los datos abiertos porque cuestiona el paradigma actual de la extracción a gran escala y sin filtrado de datos para el entrenamiento de IA. Aboga por el desarrollo de conjuntos de datos abiertos más seguros y modelos de gobernanza más estrictos, enfatizando que las iniciativas de código abierto deben integrar una moderación proactiva del contenido para prevenir la difusión de material dañino, estableciendo así un precedente para una gestión responsable de los datos en el ecosistema más amplio de datos abiertos.
Source: telecom.economictimes.indiatimes.comPublished on 2023-12-22
Related news
- AI Training Data Contains Child Sexual Abuse Images, Discovery Points to LAION-5B
- ‘Data poisoning’: How artists are fighting back against Artificial Intelligence image generators
- The smoking gun for the Covid lab leak? Blueprint for creating a...
- Can't Prosecute Magistrate U/S 228-A IPC For Inadvertent Omission To Anonymize Rape Victim's Details: Kerala HC Emphasizes Judicial Caution
- 'Hope this helps': Emails reveal police had detailed information about Nathaniel Train almost a year before Wieambilla terror attack