How Google's new AI model protects user privacy without sacrificing performance

How Google's new AI model protects user privacy without sacrificing performance

Los investigadores de Google han desarrollado un marco prometedor para resolver la tensión inherente entre la utilidad de los modelos de inteligencia artificial y la privacidad del usuario. Al implementar privacidad diferencial a nivel de secuencias de tokens, su nuevo modelo, VaultGemma, altera eficazmente los datos para evitar la memorización literal y la republicación de información personal sensible. Este enfoque garantiza que las secuencias individuales de entrenamiento permanezcan estadísticamente indistinguibles del ruido, protegiendo así los datos del usuario sin destruir por completo la capacidad del modelo para generar respuestas coherentes y de alta calidad. El estudio destaca que, aunque la integración de medidas de privacidad reduce significativamente la capacidad del modelo para memorizar detalles exactos del entrenamiento, no necesariamente vuelve al IA inútil. Aunque la versión actual, basada en Gemma 2 de código abierto, es más pequeña que los modelos propietarios líderes, sus resultados en pruebas de rendimiento son comparables a los de modelos no privados de hace varios años. Esto demuestra que es posible mantener una utilidad funcional mientras se aplican estrictas protecciones de privacidad, aunque sigue existiendo una brecha notable en cuanto a capacidad en comparación con los sistemas más avanzados de la actualidad. Esta investigación es altamente relevante para la comunidad de open_data, ya que avanza en la viabilidad técnica del uso de conjuntos de datos privados para entrenar modelos de IA públicos. Al publicar los pesos del modelo y las metodologías de entrenamiento en plataformas como Hugging Face, Google permite que la comunidad más amplia audite, refine y construya sobre estas técnicas que preservan la privacidad. Esta transparencia fomenta el desarrollo de estándares éticos de IA, demostrando que los desarrolladores pueden priorizar la seguridad del usuario mientras continúan innovando con recursos de datos abiertos.

Noticias relacionadas

• Google releases open-source AI model VaultGemma with differential privacy
• Abu Dhabi’s Technology Innovation Institute Inaugurates Open-Source AI Summit with Critical Discussions on the Future of AI
• Falcon 40B: World’s Top AI Model Rewards Most Creative Use Cases in Call for Proposals with Training Compute Power
• Atomic Canyon, INL to set nuclear AI benchmark - Nuclear Engineering International
• Tongyi DeepResearch: A New Era of Open-Source AI Researchers