Paedophiles using open source AI to create child sexual abuse content, says watchdog
Paedophiles using open source AI to create child sexual abuse content, says watchdog
La amplia disponibilidad de la inteligencia artificial de código abierto permite que los delincuentes generen material de abuso sexual infantil, lo que plantea un grave desafío de seguridad. A diferencia de las herramientas propietarias, estos modelos pueden descargarse, modificarse y ejecutarse localmente, lo que permite a los usuarios ajustar los algoritmos utilizando imágenes ilegales. Esta accesibilidad significa que, una vez que la tecnología se pone a disposición, no puede ser retirada ni contenida de manera efectiva, lo que conduce a una proliferación irreversible de herramientas que facilitan la creación de contenido de abuso fotorrealista. Este desarrollo complica significativamente los esfuerzos para proteger a las víctimas y gestionar el volumen de material dañino. La comunidad técnica dentro del ámbito de los delincuentes comparte activamente modelos y consejos para mejorar el realismo, a menudo comenzando con imágenes fundamentales disponibles públicamente. En consecuencia, las fuerzas del orden y las organizaciones de seguridad infantil enfrentan una carga abrumadora, ya que el contenido generado por IA dificulta la identificación de víctimas reales y la coordinación de su eliminación, exacerbando una epidemia de salud pública ya crítica. Esta situación es altamente relevante para los principios de datos abiertos y código abierto, ya que destaca la compensación inherente entre la democratización tecnológica y la seguridad. Si bien el software de código abierto fomenta la innovación y previene los monopolios corporativos, también elimina barreras para los actores maliciosos, planteando desafíos regulatorios únicos. Subraya la dificultad que enfrentan los legisladores al equilibrar los beneficios de la tecnología transparente y accesible con la urgente necesidad de prevenir su uso indebido en la creación y distribución de contenido ilegal.
Fuente: theguardian.comPublicado el 2023-09-13