El enorme lío de las imágenes 'creadas' por robots: derechos de autor, falsedad, manipulación…
El artículo ilustra el desafío actual de distinguir la realidad de la virtualidad mediante el uso de identidades falsas generadas por inteligencia artificial, como se evidencia en el caso de cuentas manipuladoras en redes sociales. Expertos advierten que la creciente sofisticación de estas herramientas, capaces de crear imágenes hiperrealistas, dificulta la verificación de la autenticidad y aumenta la vulnerabilidad de la opinión pública ante la manipulación informativa. Desde la perspectiva de los datos abiertos, el problema subyace en que estos sistemas se alimentan de vastos conjuntos de datos web no seleccionados, lo que perpetúa sesgos sociales y de género existentes. Esta dependencia de fuentes abiertas pero potencialmente sesgadas plantea una crítica fundamental sobre la transparencia algorítmica: mientras la tecnología avanza, la falta de claridad en los procesos de entrenamiento convierte a estos modelos en "cajas negras", dificultando la auditoría ética y la identificación de discriminaciones estructurales incorporadas en los patrones de predicción. La relevancia para la comunidad de datos radica en la urgente necesidad de regular el uso específico de estas tecnologías, más que prohibirlas, exigiendo transparencia y etiquetado obligatorio de contenidos generados por IA. Se enfatiza que la gobernanza debe priorizar la responsabilidad humana y la auditoría externa para garantizar que el desarrollo tecnológico no colisione con la dignidad humana, asegurando que las soluciones beneficien integralmente a la sociedad y no solo a grupos privilegiados.
Source: publico.esPublished on 2024-10-22
Related news
- La editorial Penguin Random House cambia sus cláusulas para evitar el uso sus libros para entrenar a la inteligencia artificial
- Privacidad y protección de datos personales en el desarrollo de la inteligencia artificial generativa | El Universal
- No todo vale en Internet: los límites en el uso de datos personales
- Se extiende la convocatoria del catálogo Código Provincia | Zona Norte Visión
- Lawmakers must address FOIA ruling