Los investigadores descubrieron un método para extraer información personal sensible y material protegido por derechos de autor de ChatGPT, aprovechando su tendencia a completar repeticiones de consignas. Esta vulnerabilidad permite que los actores maliciosos recopilen información de identificación personal, como datos de contacto y direcciones financieras, con un esfuerzo mínimo. La facilidad de acceso plantea importantes preocupaciones de seguridad, ya que entidades maliciosas podrían aprovechar estos datos para ataques de phishing o distribución no autorizada, lo que pone de manifiesto graves deficiencias en los protocolos de seguridad actuales de los modelos. Este incidente subraya la urgente necesidad de transparencia y responsabilidad en la forma en que se entrenan los modelos de lenguaje grandes, un principio fundamental de los enfoques de datos abiertos. Aunque OpenAI sostiene que no recopila intencionalmente datos privados, la evidencia sugiere que la información públicamente disponible puede contener contenido sensible no intencionado. Esta situación demuestra por qué es esencial la auditoría abierta de los conjuntos de datos de entrenamiento; sin visibilidad sobre las fuentes de datos, es imposible verificar el cumplimiento de las leyes de privacidad o garantizar prácticas éticas en el manejo de datos. Las implicaciones más amplias se extienden más allá de los sistemas propietarios a todo el campo del desarrollo de inteligencia artificial. Demandas similares contra otras grandes empresas tecnológicas indican un problema sistémico respecto al consentimiento y el uso de datos en el entrenamiento de IA. Para la comunidad de datos abiertos, esto sirve como un argumento convincente para establecer estándares rigurosos en la curación y atribución de datos. Refuerza la necesidad de licencias claras y directrices éticas para proteger la privacidad individual mientras se fomenta la innovación en entornos de investigación abiertos y reproducibles.
Source:Published on 2023-12-01
Related news
- Freedom of Information Act
- ¿Las imágenes creadas con IA tienen derechos de autor? Esto es lo marca la ley
- FBI Hiding the Ball on Communications With Twitter
- Capitol Fax.com - Your Illinois News Radar » Illinois Supreme Court rules people can't legally FOIA their FOID card info
- Culmination Bio Raises $10M From Amgen Ventures and Merck Global Health Innovation Fund to Bring Longitudinal Health Data to Biopharma