720 Australian and Brazilian Children Better Protected from AI Misuse

LAION eliminó las fotografías de menores de su conjunto de datos tras investigaciones que revelaron su inclusión no autorizada, lo que había permitido la creación de deepfakes dañinos. Esta acción confirma que los datos personales pueden ser eliminados con éxito de los conjuntos de datos utilizados para entrenar modelos de inteligencia artificial, reconociendo los graves riesgos que surgen cuando esta información se explota para generar daños imprevisibles. Sin embargo, persisten preocupaciones significativas, ya que solo se revisó una fracción minúscula del conjunto de datos, dejando muchas imágenes no identificadas de menores dentro del sistema. Además, los modelos de IA previamente entrenados conservan los datos eliminados, lo que significa que el daño no se ha erradicado por completo. La naturaleza abierta de este conjunto de datos permitió este escrutinio, destacando cómo los conjuntos de datos privados de IA permanecen sin examinar y opacos en comparación con los recursos abiertos. Esta situación subraya la urgente necesidad de marcos legales que protejan la privacidad de los menores en el uso de datos. Los gobiernos están considerando actualmente legislación específica para salvaguardar los derechos en línea de los menores, ofreciendo una oportunidad crítica para establecer protecciones sólidas. Estas leyes son esenciales para prevenir el mal uso de los datos personales en iniciativas de datos abiertos y para garantizar que la transparencia en el desarrollo de la IA no se logre a costa de la seguridad individual.

Source: hrw.org
Published on 2024-09-04

“Copyright traps” could tell writers if an AI has scraped their work »

Datos Abiertos (Open data)

Related news