La lista secreta de sitios web que hacen que una IA como ChatGPT parezca inteligente
La lista secreta de sitios web que hacen que una IA como ChatGPT parezca inteligente
La investigación revela que los chatbots de inteligencia artificial dependen de conjuntos de datos masivos extraídos de la web sin supervisión adecuada, lo que plantea graves cuestiones éticas y legales sobre la propiedad intelectual, la privacidad y la seguridad. Al incluir contenido de sitios piratas, blogs personales y bases de datos públicas sin consentimiento ni compensación, estas tecnologías exponen a creadores y usuarios a riesgos significativos, subrayando la falta de transparencia en las prácticas de las grandes empresas tecnológicas. El análisis de los datos de entrenamiento muestra la presencia de sesgos peligrosos, discursos de odio y desinformación, mientras que los filtros de seguridad resultan insuficientes para eliminar contenido extremista o ilegal. Esto demuestra que la "caja negra" del entrenamiento de IA no solo copia el conocimiento humano, sino que también internaliza prejuicios y misinformation, lo que puede llevar a la propagación de información errónea o discriminatoria. La opacidad en la fuente de estos datos dificulta la auditoría y la rendición de cuentas, afectando directamente la confianza pública en estas herramientas. Este informe es crucial para el movimiento de datos abiertos, ya que evidencia la urgente necesidad de transparencia y gobernanza responsable en el desarrollo de inteligencia artificial. Promueve la idea de que los datos utilizados para entrenar sistemas globales deben ser auditables, éticamente adquiridos y documentados públicamente. Sin mecanismos de apertura y supervisión claros, el progreso tecnológico se construye sobre fundamentos inestables que pueden violar derechos fundamentales, haciendo de la transparencia una demanda esencial para una IA justa y sostenible.
Fuente: infobae.comPublicado el 2023-04-20