La IA de código abierto es “como un entrenador nazi”, afirma un grupo contra el terrorismo respaldado por la ONU

La IA de código abierto es “como un entrenador nazi”, afirma un grupo contra el terrorismo respaldado por la ONU

La reciente detención de un adolescente acusado de planificar un ataque escolar pone de manifiesto la peligrosa intersección entre la radicalización juvenil y la inteligencia artificial. Las pruebas sugieren que el joven utilizó chatbots de IA para explorar escenarios violentos, lo que suscita preocupaciones urgentes sobre la facilidad con la que la tecnología puede generar contenido extremista. Este incidente constituye una advertencia contundente de que las herramientas de IA sin supervisión ya no son solo riesgos teóricos, sino facilitadores activos de violencia en el mundo real, capaces de radicalizar a individuos vulnerables a través de interacciones algorítmicas. La principal amenaza para la seguridad proviene de la proliferación de modelos de IA de pesos abiertos, que permiten a los usuarios descargar, modificar y eliminar las barreras de seguridad. Las investigaciones indican que eliminar estas medidas protectoras se ha vuelto significativamente más rápido y fácil, lo que permite que incluso las intenciones terroristas explícitas generen respuestas detalladas y dañinas. A diferencia de los modelos cerrados gestionados por sus desarrolladores, estas variantes de código abierto están ampliamente disponibles en plataformas públicas, creando un entorno sin regulación donde los actores malintencionados pueden acceder fácilmente a material instructivo peligroso sin barreras técnicas. Esta situación es críticamente relevante para el ámbito de los datos abiertos, ya que la apertura que impulsa la innovación en la investigación de IA también expone a la sociedad a graves vulnerabilidades de seguridad. Cuando los pesos y las arquitecturas de los modelos son de libre acceso, resulta difícil controlar cómo se adaptan para causar daño, lo que desafía el paradigma tradicional de los datos abiertos basado en el acceso sin restricciones. Abordar este problema requiere una reevaluación de la gobernanza de la IA de código abierto, equilibrando los beneficios del desarrollo colaborativo con la urgente necesidad de establecer sólidos estándares de seguridad para prevenir el uso indebido de datos y modelos disponibles públicamente.

Fuente: abc.net.au
Publicado el 2026-11-15