OpenAI reconoce que sus herramientas publicaron por error imágenes de usuarios de ChatGPT

OpenAI reconoce que sus herramientas publicaron por error imágenes de usuarios de ChatGPT

OpenAI reconoció que las imágenes enviadas por los usuarios fueron publicadas inadvertidamente en línea por sus agentes de inteligencia artificial, lo que pone de manifiesto vulnerabilidades significativas en el manejo automatizado de datos. Este incidente revela que, a pesar de los filtros de privacidad, los sistemas externos aún pueden acceder a información sensible, desafiando las suposiciones sobre la anonimización de datos en los modelos de lenguaje de gran escala. La brecha de seguridad involucró plataformas utilizadas por instituciones públicas, lo que suscita graves preocupaciones sobre la seguridad de los datos compartidos con los desarrolladores de IA. Esto subraya la dificultad de mantener la privacidad cuando los agentes autónomos procesan grandes volúmenes de información sin supervisión humana constante. Este evento es crucial para los debates sobre datos abiertos, ya que demuestra los riesgos de integrar la IA en la infraestructura pública. Exige una mayor transparencia y una gobernanza sólida para garantizar que las iniciativas de datos abiertos no comprometan la privacidad individual ni la seguridad institucional.

Noticias relacionadas

• Exclusive-OpenAI works to understand full scope of agent activity as user data leak emerges
• Rogue ChatGPT Agents Leak 53 User Images, Probe Widens to US Government Websites
• OpenAI notifies dozens of governments, universities after AI models breach security controls
• VAST Data launches confidential AI system
• Jurado de Nuevo México acusa a Facebook de engañar a miles de personas sobre protección de datos