It’s infuriatingly hard to understand how closed models train on their input
It’s infuriatingly hard to understand how closed models train on their input
La ansiedad generalizada respecto a que los modelos de lenguaje grandes memoricen datos privados se origina principalmente en la falta de transparencia en el desarrollo de la inteligencia artificial de código cerrado. Dado que proveedores como OpenAI y Google ocultan detalles sobre sus conjuntos de datos de entrenamiento, los usuarios no pueden verificar si las entradas proporcionadas a través de ChatGPT o las APIs se reutilizan para futuras iteraciones del modelo. Esta opacidad impide ofrecer una garantía definitiva, ya que los mecanismos exactos de retención de datos y ajuste fino siguen siendo ambiguos, dejando la posibilidad de que la información privada se incorpore inadvertidamente en versiones posteriores del modelo, a pesar de las políticas publicadas. Aunque OpenAI afirma que los datos de la API no se utilizan para el entrenamiento, las prácticas relacionadas con herramientas dirigidas al consumidor, como ChatGPT, permanecen poco claras. La documentación histórica sugiere que los datos pueden emplearse para el aprendizaje por refuerzo a partir de retroalimentación humana, en lugar de un entrenamiento directo con las entradas crudas; sin embargo, la falta de claridad sobre si la información personal identificable se elimina por completo mantiene la desconfianza de los usuarios. Además, las vulnerabilidades de seguridad en estas plataformas representan un riesgo adicional, ya que los datos registrados podrían exponerse debido a fallos del sistema o amenazas internas, lo que resalta la infraestructura de seguridad inmadura de los nuevos proveedores de IA en comparación con los servicios en la nube establecidos. Esta incertidumbre subraya la relevancia crítica de los datos abiertos y los modelos de código abierto en el ecosistema de la IA. El autoalojamiento de modelos con licencias abiertas permite a las organizaciones eludir por completo las preocupaciones relacionadas con el entrenamiento propietario, asegurando que los datos sensibles nunca salgan de su control. A medida que estos modelos impulsados por la comunidad mejoran rápidamente en capacidad, ofrecen una alternativa viable para las empresas que buscan aprovechar la IA sin los riesgos de privacidad inherentes a los sistemas cerrados, haciendo que la transparencia y el despliegue local sean esenciales para una adopción confiable de la IA.
Fuente: simonwillison.netPublicado el 2023-06-05