GPT-4 Is a Giant Black Box and Its Training Data Remains a Mystery
GPT-4 Is a Giant Black Box and Its Training Data Remains a Mystery
La publicación de GPT-4 de OpenAI pone de manifiesto una tensión crítica entre el secreto corporativo y la rendición de cuentas pública en el desarrollo de la inteligencia artificial. Al ocultar detalles clave sobre los datos de entrenamiento y la arquitectura del modelo, alegando preocupaciones competitivas y de seguridad, OpenAI impide que los investigadores independientes evalúen con precisión los sesgos y los mecanismos de seguridad del sistema. Esta falta de transparencia socava el valor científico de los datos abiertos, dificultando la identificación de las fuentes de resultados problemáticos y la garantía de que la tecnología se alinee con los valores sociales. Esta opacidad plantea riesgos significativos para los principios de los datos abiertos, al priorizar el beneficio económico sobre la rigurosa revisión por pares. Sin acceso a los conjuntos de datos de entrenamiento, los expertos externos no pueden verificar las afirmaciones de precisión ni caracterizar completamente los sesgos sociales incorporados y los posibles daños. En consecuencia, las partes interesadas se ven obligadas a depender de métricas internas autoinformadas, que pueden ocultar cómo el modelo procesa información sensible o refuerza estereotipos dañinos, limitando la capacidad de desarrollar estrategias de mitigación efectivas. La postura de OpenAI es particularmente relevante para la comunidad de datos abiertos, ya que establece un precedente peligroso para toda la industria tecnológica. Si un líder del mercado abandona la transparencia en nombre de la seguridad y la competencia, los competidores podrían seguir su ejemplo, cerrando efectivamente los ecosistemas de datos necesarios para la auditoría independiente y la innovación. Este cambio amenaza con replicar las prácticas cerradas de la gran tecnología tradicional, erosionando la confianza y el escrutinio colaborativo esenciales para el avance responsable de la inteligencia artificial.
Fuente: gizmodo.comPublicado el 2023-03-17