Nvidia claims software and hardware upgrades allow Blackwell Ultra GB300 to dominate MLPerf benchmarks — touts 45% DeepSeek R-1 inference throughput increase over GB200

Nvidia claims software and hardware upgrades allow Blackwell Ultra GB300 to dominate MLPerf benchmarks — touts 45% DeepSeek R-1 inference throughput increase over GB200

El nuevo sistema Blackwell Ultra GB300 de Nvidia establece nuevos estándares de referencia para la inferencia de inteligencia artificial (IA), logrando avances significativos en el rendimiento en comparación con las generaciones anteriores. Al integrar capacidades de hardware avanzadas con optimizaciones de software especializadas, la plataforma demuestra una mejora del 45 % en el procesamiento de modelos de lenguaje grandes (LLM) específicos en comparación con arquitecturas anteriores. Este salto resalta la sinergia crítica entre los avances en silicio físico y los métodos computacionales eficientes para impulsar hacia adelante las capacidades modernas de inteligencia artificial. El mayor rendimiento proviene de núcleos tensor mejorados y técnicas innovadoras de cuantización de datos, como NVFP4, que reducen el tamaño del modelo sin sacrificar precisión. Además, las robustas redes de interconexión permiten una fragmentación eficiente de los modelos a través de enormes clústeres de GPU, manteniendo una baja latencia mientras se escalan las operaciones. Estos logros técnicos sugieren que la infraestructura diseñada para la inferencia a gran volumen puede operar con una eficiencia sin precedentes, estableciendo un nuevo estándar para el despliegue de modelos complejos de IA en entornos empresariales. Este desarrollo es altamente relevante para las comunidades de datos abiertos, ya que plantea cuestiones sobre la accesibilidad y la equidad en la infraestructura de IA. Si bien las herramientas potentes impulsan la innovación, también pueden concentrar el poder computacional entre las grandes corporaciones, lo que potencialmente limitaría las contribuciones de código abierto al entrenamiento y el refinamiento de los modelos. A medida que las “fábricas de IA” se vuelven más rentables, la comunidad debe abogar por estándares abiertos y recursos compartidos para garantizar que las iniciativas de datos abiertos sigan siendo viables junto con los ecosistemas propietarios de computación de alto rendimiento.

Fuente: tomshardware.com
Publicado el 2025-09-11