On-device Apple Intelligence training methods seem to be based on a controversial technology

On-device Apple Intelligence training methods seem to be based on a controversial technology

Apple está introduciendo el entrenamiento en el dispositivo para Apple Intelligence, que aprovecha la Privacidad Diferencial para preservar el anonimato de los usuarios mientras mejora las capacidades de la inteligencia artificial. Al añadir ruido estadístico a los datos y realizar el análisis directamente en el dispositivo, la empresa garantiza que ningún dato individual de los usuarios salga del iPhone. Este enfoque permite a Apple identificar patrones de uso comunes y refinar funciones como la generación de texto sin comprometer la privacidad de las personas que optan por participar, reforzando su compromiso con el aprendizaje automático centrado en la seguridad. El artículo destaca que, aunque estos métodos se asemejan al controvertido plan de detección de CSAM (abuso sexual infantil) que Apple abandonó anteriormente, las tecnologías subyacentes y los objetivos son fundamentalmente distintos. A diferencia del fallido sistema de moderación de contenido, que arriesgaba exponer las imágenes de los usuarios mediante la comparación de hashes, este nuevo marco preservador de la privacidad está diseñado para impedir que la empresa aprenda cualquier información identificable sobre usuarios específicos. Esta distinción es crucial para mantener la confianza, ya que asegura que el proceso de entrenamiento de la IA no pueda ser abusado para descubrir detalles privados o facilitar la vigilancia. Este desarrollo es relevante para las discusiones sobre datos abiertos porque demuestra un modelo viable para la mejora a gran escala de la IA que no requiere la recopilación centralizada de datos ni la creación de conjuntos de datos abiertos a partir de información personal. Sugiere que el entrenamiento de alta calidad de la IA puede ocurrir a través de señales agregadas y anónimas en lugar de la compartición transparente de datos. Para los defensores de los datos abiertos, esto presenta un paradigma alternativo donde la utilidad se deriva del consenso estadístico en lugar de datos crudos accesibles, desafiando las nociones tradicionales sobre cómo deben construirse y compartirse los conjuntos de datos de aprendizaje automático.

Noticias relacionadas

• How Apple gets AI training data without violating anyone’s privacy
• Apple needs its AI to be better but wants you to know it still really, really cares about your privacy
• Understanding Aggregate Trends for Apple Intelligence Using Differential Privacy
• Apple Uses New Tech That Compares Synthetic Data With Real Emails To Train AI Models, Then Applies Embeddings And Privacy Tools To Improve Text Output Quality
• Meta utilizará datos públicos de sus usuarios en la UE para entrenar a sus modelos de IA