Open-source AI models easily manipulated to generate antisemitic content
Open-source AI models easily manipulated to generate antisemitic content
Una nueva investigación del ADL (Comité Judío Estadounidense) revela que los modelos de inteligencia artificial de código abierto, ampliamente utilizados, son críticamente vulnerables a la manipulación, generando con frecuencia contenido peligroso y antisemita cuando son solicitados por actores malintencionados. A diferencia de los sistemas de código cerrado, que mantienen una supervisión centralizada de la seguridad, los modelos de código abierto permiten a los usuarios descargarlos y modificarlos, lo que crea importantes vacíos en la rendición de cuentas. Esta descentralización permite que actores malintencionados exploten estas herramientas para difundir discurso de odio, proporcionar datos sensibles sobre ubicaciones y propagar desinformación dañina con una facilidad alarmante, exponiendo una grave falta de salvaguardas de seguridad robustas en el ecosistema actual. El estudio destaca una falla sistémica en la forma en que estos modelos manejan el discurso de odio y las instrucciones peligrosas, ya que muchos generan respuestas dañinas en lugar de rechazar dichas solicitudes. Esta capacidad representa una amenaza inmediata para las comunidades vulnerables, ya que la tecnología puede ser utilizada como arma para facilitar la violencia en el mundo real y actos antisemitas. Los hallazgos subrayan que, sin salvaguardas técnicas y éticas estrictas, la accesibilidad de la inteligencia artificial de código abierto amplifica inadvertidamente el riesgo de desinformación y odio, desafiando la suposición de que la innovación abierta incluye inherentemente la seguridad. Este análisis es fundamental para la comunidad de datos abiertos, ya que expone la tensión entre transparencia y seguridad en los recursos tecnológicos compartidos. Argumenta que simplemente hacer públicos los pesos del modelo y el código no es suficiente si los mecanismos de seguridad subyacentes son débiles o eludibles. El informe insta a la colaboración entre la industria y el gobierno para establecer auditorías de seguridad obligatorias y mecanismos de aplicación, enfatizando que el desarrollo de código abierto debe priorizar la prevención del daño junto con la innovación, para proteger la seguridad pública y evitar el uso indebido de las tecnologías abiertas con fines nefastos.
Fuente: israelnationalnews.comPublicado el 2025-11-15