ChatGPT genera datos falsos de ensayos clínicos que parecen reales

Investigadores italianos demostraron la fragilidad de la integridad científica al utilizar ChatGPT para generar conjuntos de datos falsos y convincentes que respaldan conclusiones opuestas a la evidencia médica existente. Este experimento revela que la inteligencia artificial puede crear mediciones y resultados de ensayos clínicos inexistente en cuestión de minutos, planteando una amenaza seria para la validez de las publicaciones académicas. La relevancia para el campo de los open data radica en la necesidad urgente de desarrollar mecanismos robustos de verificación y transparencia. Aunque los datos sintéticos parecen auténticos a primera vista, análisis estadísticos profundos pueden detectar anomalías sutiles, como distribuciones de edad no naturales o correlaciones inconsistentes. Esto subraya que la accesibilidad de datos abiertos no debe eximir a las revistas y comunidades científicas de implementar controles de calidad rigurosos para distinguir entre evidencia real y fabricada por algoritmos. En conclusión, el estudio alerta sobre cómo esta tecnología facilita la producción de información engañosa a gran escala, dificultando la labor de la revisión por pares tradicional. Se requiere una actualización inmediata de los protocolos de evaluación y el desarrollo de nuevas herramientas de detección. La transparencia en el origen de los datos se convierte así en un pilar fundamental para mantener la credibilidad de la ciencia en la era de la generación automatizada de contenido.

Source: lavozdegalicia.es
Published on 2023-12-08

Censo 2024: INE publica nuevo cargo a postular con un sueldo sobre los $880 mil bruto »

Datos Abiertos (Open data)

Related news