Perplexity Is Already "Citing" Error-Filled AI-Generated Spam

La credibilidad de Perplexity está gravemente comprometida por su dependencia de contenido de baja calidad generado por inteligencia artificial, lo que crea un peligroso ciclo de desinformación. Las investigaciones revelan que la herramienta de búsqueda cita con frecuencia blogs oscuros, producidos algorítmicamente, en lugar de fuentes autorizadas. Esto da lugar a la propagación de información desactualizada, incorrecta o incluso fabricada, contradiciendo directamente sus afirmaciones de marketing de ofrecer conocimientos precisos y confiables. Las implicaciones son particularmente preocupantes para la salud y la exactitud factual, como lo demuestran casos en los que la plataforma compartió consejos médicos contradictorios procedentes de fuentes aparentemente legítimas pero generadas por IA. Al no distinguir entre contenido genuino de expertos y spam sintético, Perplexity corre el riesgo de erosionar la confianza de los usuarios. La empresa reconoce que sus sistemas internos de detección son imperfectos, pero esta admisión pone de manifiesto una brecha crítica entre su promesa de respuestas verificables y su capacidad operativa real. Esta situación es altamente relevante para la comunidad de datos abiertos, ya que expone la fragilidad de la integridad de los datos en la era de la inteligencia artificial generativa. Subraya la urgente necesidad de una verificación rigurosa de las fuentes y de estándares transparentes de procedencia de datos. Sin mecanismos robustos para filtrar el ruido sintético, los ecosistemas de datos abiertos corren el riesgo de verse inundados con información poco fiable, socavando los principios fundamentales de exactitud y confianza esenciales para el uso responsable de los datos.

Source: yahoo.com
Published on 2024-06-28

Open data potential for Africa »

Datos Abiertos (Open data)

Related news