How Apple gets AI training data without violating anyone’s privacy

How Apple gets AI training data without violating anyone’s privacy

Apple demuestra que el avance de las capacidades de la inteligencia artificial no requiere comprometer la privacidad del usuario. Al aprovechar modelos de lenguaje pequeños ejecutados en el dispositivo, la empresa puede recopilar los vastos datos necesarios para entrenar modelos de lenguaje grandes para Apple Intelligence sin acceder nunca al contenido individual de los usuarios. Este enfoque permite un desarrollo de IA sofisticado mientras se adhiere estrictamente al principio de que la privacidad es un derecho humano fundamental, ofreciendo una alternativa viable a la práctica común en la industria de extraer datos de internet o recopilar comunicaciones privadas. La innovación central implica un sistema indirecto y basado en el consentimiento, donde los usuarios generan datos sintéticos que imitan los patrones reales de comunicación. Los dispositivos comparan variaciones de mensajes potenciales con correos electrónicos y mensajes de texto locales, devolviendo solo las coincidencias estructurales más cercanas a Apple. Esto asegura que el conjunto de datos resultante refleje tendencias de escritura agregadas y propiedades lingüísticas en lugar de información personal específica. En consecuencia, el contenido de las comunicaciones muestreadas nunca sale del dispositivo, manteniendo la integridad de los secretos del usuario mientras proporciona el material de entrenamiento necesario para una predicción lingüística precisa. Esta metodología es altamente relevante en las discusiones sobre datos abiertos, ya que desafía la noción de que la recopilación de datos debe ser intrusiva para ser efectiva. Demuestra que las técnicas que preservan la privacidad, como el aprendizaje federado y los principios de privacidad diferencial, pueden coexistir con un desarrollo robusto de IA. Al priorizar las perspectivas agregadas y anónimas sobre los datos personales sin procesar, Apple ofrece un modelo para el uso ético de los datos. Este estudio de caso destaca cómo las organizaciones pueden innovar de manera responsable, asegurando que el progreso tecnológico no se produzca a costa de la autonomía individual o la seguridad de los datos.

Noticias relacionadas

• Understanding Aggregate Trends for Apple Intelligence Using Differential Privacy
• On-device Apple Intelligence training methods seem to be based on a controversial technology
• Apple needs its AI to be better but wants you to know it still really, really cares about your privacy
• Apple Uses New Tech That Compares Synthetic Data With Real Emails To Train AI Models, Then Applies Embeddings And Privacy Tools To Improve Text Output Quality
• Meta utilizará datos públicos de sus usuarios en la UE para entrenar a sus modelos de IA