Proton’s New AI Chatbot Lumo Ensures Privacy But Scrapes Data

El nuevo asistente de inteligencia artificial de Proton Mail, Lumo, introduce un enfoque centrado en el usuario para la privacidad, garantizando que las conversaciones individuales permanezcan cifradas y sean inaccesibles para la propia empresa, las agencias gubernamentales o los anunciantes de terceros. A diferencia de los chatbots convencionales, que a menudo utilizan los datos de los usuarios para entrenar sus modelos, Lumo aísla estrictamente las interacciones de los usuarios, protegiendo así la información personal de la explotación comercial o la vigilancia estatal. Esto posiciona a Lumo como una alternativa segura para los usuarios preocupados por las prácticas generalizadas de recopilación de datos de las grandes empresas tecnológicas. Sin embargo, el artículo destaca una contradicción crítica en el panorama actual de la inteligencia artificial: mientras que Lumo protege a sus usuarios específicos, la tecnología subyacente se basa en conjuntos de datos extraídos de toda la internet, los cuales inevitablemente contienen información privada de personas que no dieron su consentimiento para su uso. Este riesgo sistémico socava la premisa de una IA completamente preservadora de la privacidad, ya que los modelos fundamentales se entrenan con grandes cantidades de datos potencialmente sensibles. La narrativa sugiere que proteger a un grupo de usuarios a menudo se logra a expensas de infringir la privacidad de otros, revelando una falla fundamental en la forma en que se desarrolla la IA. Este conflicto es altamente relevante para las discusiones sobre datos abiertos, ya que expone la tensión entre los principios de minimización de datos y los enormes requisitos de datos de los sistemas de aprendizaje automático. La dependencia de datos públicamente disponibles, a menudo no regulados, para el entrenamiento de la IA desafía marcos existentes como el Reglamento General de Protección de Datos (GDPR) y plantea cuestiones éticas sobre el consentimiento y la transparencia. A medida que la industria avanza, este estudio de caso ilustra que la verdadera preservación de la privacidad requiere no solo interfaces seguras para los usuarios, sino también prácticas éticas, transparentes y basadas en el consentimiento para la obtención de datos, que respeten los derechos de todas las personas cuyos datos puedan ser recopilados.

Fuente: medianama.com
Publicado el 2025-07-25

Proton’s New AI Chatbot Lumo Ensures Privacy But Scrapes Data

Noticias relacionadas