We should all be worried about AI infiltrating crowdsourced work

Investigadores de la EPFL han descubierto que una parte significativa de los trabajadores de plataformas de crowdsourcing en Amazon Mechanical Turk utilizan herramientas de inteligencia artificial generativa, como ChatGPT, para completar tareas. Esta práctica socava la propuesta de valor central de estas plataformas, que dependen de la auténtica inteligencia humana para abordar tareas que los algoritmos actuales no pueden manejar eficazmente. La adopción generalizada de la IA por parte de los trabajadores sugiere que una fracción considerable de los datos recopilados puede no reflejar el estándar humano de referencia previsto, sino más bien contenido generado por máquinas. Esta discrepancia representa una amenaza crítica para el desarrollo de modelos de inteligencia artificial confiables. Los científicos de datos suelen tratar los datos generados por humanos de manera diferente a los producidos por modelos de lenguaje grandes (LLM), ya que entrenar modelos con texto sintético puede amplificar sesgos y perpetuar errores. Si los conjuntos de datos destinados a la evaluación o al entrenamiento contienen contribuciones de IA no declaradas, los modelos resultantes pueden heredar estos defectos, lo que conduce a salidas poco confiables y métricas de rendimiento inválidas. La dificultad para distinguir entre texto humano y máquina exacerba este problema, dificultando la garantía de la integridad de los datos. Este hallazgo es altamente relevante para la comunidad de datos abiertos, ya que destaca un desafío fundamental en el mantenimiento de la procedencia de los datos. Los conjuntos de datos abiertos suelen servir como base para una investigación en IA transparente y reproducible, pero pueden incluir inadvertidamente datos "contaminados" provenientes del uso no detectado de IA. Garantizar la autenticidad de los colaboradores es esencial para preservar la utilidad de la información obtenida mediante crowdsourcing. Sin métodos rigurosos para verificar el origen de los datos, el valor de los conjuntos de datos abiertos en el avance de tecnologías de IA confiables se ve significativamente comprometido.

Fuente: techcrunch.com
Publicado el 2023-06-19

We should all be worried about AI infiltrating crowdsourced work

Noticias relacionadas