Propaganda or Science: Open Source AI and Bioterrorism Risk
El artículo examina críticamente los documentos de política pública que abogan por la prohibición de los modelos de lenguaje grandes (LLMs) de código abierto debido a preocupaciones relacionadas con los riesgos biológicos, concluyendo que estos argumentos carecen de evidencia sustancial. El autor identifica una desconexión fundamental en la investigación citada, señalando que esta no logra demostrar que los LLMs proporcionen información única e inaccesible esencial para la creación de armas biológicas. La mayoría de los trabajos citados bien se basan en capacidades de fondo que ya están disponibles a través de internet, o dependen de datos propietarios de empresas específicas, lo que impide que el público en general pueda verificar las afirmaciones. En consecuencia, el supuesto peligro parece ser una ilusión creada por un volumen de citas más que por una prueba científica rigurosa. El núcleo de la crítica radica en el fracaso por abordar el "principio de sustitución" y el "principio de bloqueo". El análisis sostiene que si el conocimiento peligroso ya es accesible mediante recursos educativos estándar o en línea, un LLM añade un riesgo insignificante. Además, los principales obstáculos para la creación de armas biológicas suelen ser el acceso físico a materiales o la experiencia técnica, no solo el conocimiento teórico. Al ignorar estas barreras significativas y los posibles beneficios de la inteligencia artificial de código abierto, dichos documentos de política pública presentan una visión sesgada que prioriza la aversión al riesgo sobre una evaluación equilibrada de los costos y la seguridad. Esta revisión destaca la importancia de la integridad epistémica dentro de la comunidad de datos abiertos. Advierte contra la financiación y promoción de investigaciones que funcionan más como defensa de causas que como ciencia, especialmente cuando dicho trabajo oculta la verdad bajo la apariencia de un análisis de política riguroso. La relevancia para los datos abiertos reside en la exigencia de evidencia transparente y verificable. Cuando decisiones de política crítica sobre tecnologías de código abierto se basan en evidencia opaca o débil, se socava la confianza pública y se obstaculiza el debate informado sobre cómo equilibrar la innovación con la seguridad.
Source: 1a3orn.comPublished on 2023-11-03