Intel Habana Gaudi Beats Nvidia's H100 in Visual-Language AI Models: Hugging Face
Intel Habana Gaudi Beats Nvidia's H100 in Visual-Language AI Models: Hugging Face
El silicio Gaudi 2 de Intel demuestra un potencial competitivo significativo en el mercado de aceleración de IA, superando a las GPUs líderes de Nvidia, las A100 y H100, en la tarea de ajuste fino de modelos de visión y lenguaje. Este logro desafía la actual dominancia de Nvidia, demostrando que otros proveedores de hardware pueden ofrecer velocidades superiores para cargas de trabajo específicas. Los resultados indican que el mercado ya no es un monopolio, ofreciendo a los proveedores e investigadores alternativas viables y de alto rendimiento a los estándares establecidos de la industria. La ventaja de rendimiento proviene del sistema de carga de datos acelerado por hardware de Gaudi 2, que aborda un cuello de botella crítico en el entrenamiento de IA. Al descargar las tareas de decodificación y aumento de imágenes desde la CPU directamente al acelerador, el sistema evita la inactividad de la GPU y optimiza la utilización de recursos. Este cambio arquitectónico permite que el procesador principal maneje otras tareas con mayor eficiencia, lo que resulta en velocidades de procesamiento más rápidas y flujos de trabajo de entrenamiento más fluidos para aplicaciones complejas de visión y lenguaje. Este desarrollo es altamente relevante para la comunidad de datos abiertos, ya que reduce la barrera de entrada para el procesamiento de conjuntos de datos grandes y visualmente ricos. La carga eficiente de datos reduce los costos computacionales y el tiempo, haciendo que sea más accesible para investigadores y desarrolladores utilizar modelos de visión y lenguaje de código abierto. A medida que las opciones de hardware se diversifican, el ecosistema de datos abiertos se beneficia de una menor dependencia de un único proveedor, fomentando una mayor innovación y flexibilidad en cómo se analizan y utilizan los datos públicos para el avance de la IA.
Fuente: tomshardware.comPublicado el 2023-09-01