Op-Ed: AI’s Most Pressing Ethics Problem
Op-Ed: AI’s Most Pressing Ethics Problem
Investigaciones recientes revelan que los principales desarrolladores de inteligencia artificial están adoptando los «datos sintéticos» —información generada por la IA en lugar de por seres humanos— para superar la escasez de datos. Este cambio estratégico plantea preocupaciones críticas para los defensores de los datos abiertos, ya que aleja a la industria de los registros públicos transparentes y generados por humanos hacia un ciclo cerrado de contenido creado por máquinas. La dependencia de los datos sintéticos amenaza la integridad de los conjuntos de datos fundamentales que las iniciativas de datos abiertos se esfuerzan por mantener, pudiendo sustituir la verdad verificable por la fabricación algorítmica. El peligro principal radica en la acumulación de sesgos históricos y en la proliferación de las «alucinaciones», es decir, información falsa. Dado que los primeros sistemas de IA ya incorporaron prejuicios sociales e inexactitudes en sus conjuntos de entrenamiento, alimentar el sistema con sus propios resultados sesgados crea un peligroso ciclo de retroalimentación. En lugar de aprender de experiencias diversas y del mundo real, estos modelos corren el riesgo de amplificar el racismo, el sexismo y la desinformación, erosionando efectivamente la fiabilidad y la confianza que los datos abiertos pretenden ofrecer. En consecuencia, el artículo insta a una intervención regulatoria inmediata, incluida una pausa en el despliegue de sistemas avanzados y una prohibición del entrenamiento con datos sintéticos. Sostiene que la supervisión gubernamental es necesaria para exigir la limpieza y la auditoría de los conjuntos de datos originales de entrenamiento. Esto es vital para los datos abiertos, pues subraya la urgente necesidad de preservar fuentes de información generadas por humanos y libres de sesgos, asegurando que el desarrollo de la IA no monopolice ni corrompa el acceso del público a datos veraces y equitativos.
Fuente: cjr.orgPublicado el 2024-04-25