¿De dónde sale la información que da ChatGPT?

La investigación revela que los modelos de inteligencia artificial se entrenan con vastas cantidades de datos web que contienen sesgos raciales, religiosos y contenidos con derechos de autor, planteando riesgos éticos y legales significativos. Al utilizar conjuntos de datos no filtrados adecuadamente, estas tecnologías pueden perpetuar prejuicios y facilitar la difusión de propaganda o información errónea, mientras exponen a violaciones de la privacidad y la propiedad intelectual de creadores y usuarios. Un aspecto crítico es la falta de transparencia en el origen de la información, ya que una parte considerable de los sitios utilizados no aparece públicamente en la web actual, lo que dificulta la trazabilidad y la rendición de cuentas. Además, los filtros de seguridad aplicados por las empresas muestran inconsistencias, permitiendo a veces la inclusión de contenido simbólico problemático o discurso de odio no clasificado correctamente, lo que compromete la neutralidad y seguridad de los asistentes virtuales. Este artículo es relevante para la comunidad de open data porque destaca la necesidad urgente de datasets abiertos, limpios y documentados que respeten la licitud del contenido. Subraya que la calidad de la inteligencia artificial depende directamente de la integridad de los datos de entrenamiento, impulsando la demanda de estándares éticos claros, transparencia en el uso de datos y mecanismos robustos de gobernanza para garantizar que el desarrollo tecnológico no refuerce desigualdades sociales ni infrinja derechos fundamentales.

Fuente: semana.com
Publicado el 2023-04-22

¿De dónde sale la información que da ChatGPT?

Noticias relacionadas