OpenAI entrenará sus IA con chats de expertos en ciberseguridad aunque estos se nieguen

OpenAI ha anunciado un cambio controversial en su política de datos para los miembros del programa de confianza Daybreak Blue, comenzando el 29 de noviembre. A diferencia de lo establecido anteriormente, el contenido generado durante estas sesiones de ciberseguridad en cuentas personales se utilizará para entrenar sus modelos, incluso si el usuario ha desactivado explícitamente la opción de mejorar el modelo para todos. Esta decisión rompe la garantía previa de que dichas interacciones permanecían aisladas del entrenamiento, generando una inmediata reacción de desconfianza entre los especialistas en seguridad. La relevancia de este asunto para el open_data y la transparencia algorítmica es crítica, ya que introduce una opacidad significativa sobre qué datos alimentan los sistemas de inteligencia artificial. Las sesiones de Daybreak Blue pueden contener información altamente sensible, como vulnerabilidades no reportadas y técnicas de ataque especializadas. Al permitir que estos hallazgos privativos se conviertan en parte del conjunto de datos de entrenamiento, OpenAI plantea riesgos graves de confidencialidad y propiedad intelectual, cuestionando los estándares éticos del uso de datos sin consentimiento explícito y detallado en este contexto específico. Finalmente, aunque OpenAI prometió ofrecer una opción de exclusión específica y aclaró que no afecta a clientes empresariales ni a modos de procesamiento seguro, la implementación práctica sigue siendo incierta. La falta de claridad en los detalles técnicos de cómo funcionará la exclusión y la fecha de inicio exacta ha exacerbado la preocupación en la comunidad. Este caso subraya la urgencia de mecanismos robustos y transparentes en el manejo de datos sensibles, demostrando que la ambigüedad en las políticas de privacidad puede erosionar la confianza en las plataformas tecnológicas y afectar negativamente la colaboración abierta en campos de alta seguridad.

Fuente: infobae.com
Publicado el 2026-11-01

OpenAI entrenará sus IA con chats de expertos en ciberseguridad aunque estos se nieguen

Noticias relacionadas