OpenAI intros two open-weight language models that can run on consumer GPUs — optimized to run on devices with just 16GB of memory

OpenAI intros two open-weight language models that can run on consumer GPUs — optimized to run on devices with just 16GB of memory

OpenAI ha lanzado sus primeros modelos de lenguaje con pesos abiertos desde GPT-2, presentando gpt-oss-120b y gpt-oss-20b. Estos modelos están específicamente diseñados para hardware de consumo, lo que permite una inferencia local de alto rendimiento en dispositivos con tan solo 16 GB de memoria. Este avance democratiza el acceso a capacidades avanzadas de inteligencia artificial, permitiendo que desarrolladores en mercados emergentes y entornos con recursos limitados implementen modelos de razonamiento potentes sin depender de costosa infraestructura en la nube. Ambos modelos utilizan arquitecturas de mezcla de expertos (mixture-of-experts) para equilibrar la eficiencia con longitudes de contexto extensas. Los benchmarks indican que el modelo más grande iguala a sus equivalentes propietarios en tareas de programación y resolución de problemas, mientras que la variante más pequeña tiene un rendimiento comparable al de modelos de gama media. Al ofrecer estos modelos bajo la licencia Apache 2.0, OpenAI prioriza la adopción generalizada y la usabilidad en el mundo real, lo que señala un cambio significativo hacia una mayor accesibilidad abierta en la industria de la inteligencia artificial. Este desarrollo es crucial para la comunidad de open_data, ya que proporciona pesos de modelos de alta calidad y transparentes para experimentación pública e integración. Fomenta el desarrollo de aplicaciones de código abierto que aprovechan el procesamiento local, reduciendo la dependencia de sistemas propietarios de caja negra. En última instancia, este movimiento promueve un ecosistema más inclusivo, donde científicos de datos y desarrolladores pueden innovar libremente, garantizando un acceso más amplio a tecnologías de vanguardia en el procesamiento del lenguaje natural.

Fuente: tomshardware.com
Publicado el 2025-08-08