El descubrimiento de material de abuso sexual infantil en el conjunto de datos LAION-5B subraya la importancia crítica de la curación de datos en el desarrollo de IA abierta. Este incidente valida las advertencias de larga data de investigadores en ética, que señalan que la escala masiva de los conjuntos de datos públicos hace que la auditoría exhaustiva sea prácticamente imposible. Destaca cómo la priorización por parte de la industria tecnológica del despliegue rápido de modelos sobre una higiene rigurosa de los datos crea riesgos inherentes, permitiendo que contenido dañino se incruste permanentemente en los sistemas fundamentales de IA, a pesar de los esfuerzos posteriores de eliminación. En relación con el movimiento open_data, este evento sirve como una advertencia contundente sobre las limitaciones de la transparencia cuando los datos subyacentes no han sido verificados. Aunque el conjunto de datos de LAION era de acceso público, permitiendo cierto escrutinio, los expertos argumentan que los conjuntos de datos corporativos cerrados probablemente contienen contenido aún peor y sin supervisar. El problema central no es solo la apertura de los datos, sino la falta de estándares éticos en su recolección. Esta situación ilustra que simplemente hacer los datos accesibles no garantiza su seguridad ni su utilidad; sin reformas fundamentales en la forma en que se recopilan los datos, las iniciativas abiertas pueden propagar inadvertidamente daños sociales significativos. En última instancia, el artículo argumenta que las soluciones técnicas superficiales no pueden resolver el problema de "basura entra, basura sale" inherente a las prácticas actuales de entrenamiento de IA. Existe una necesidad urgente de repensar las metodologías de recolección de datos para prevenir la consolidación de material ilegal y sesgado en las tuberías de aprendizaje automático. Para los defensores de open_data, esto es un llamado a la acción para establecer una gobernanza más estricta y marcos éticos para la creación de conjuntos de datos, asegurando que los recursos abiertos futuros no solo sean accesibles, sino también seguros, auditables y gestionados de manera responsable.
Source:Published on 2023-12-21
Related news
- Descubren miles de imágenes de abuso sexual a menores en las librerías con las que se entrenan las inteligencias artificiales
- AI image-generators being trained on explicit photos of children
- AI text-to-image generators being trained on images of child sexual abuse: Study
- Silicon Valley Sickos: Study Reveals AI Image Generators Trained on Child Pornography