Как NVIDIA GeForce RTX 4080 SUPER сравнивается с H100 в бенчмарках?

Ответ

NVIDIA GeForce RTX 4080 SUPER характеристики производительности: 52.4 FP16 TFLOPS / 26.2 FP32 TFLOPS / 736 ГБ/с / 16 ГБ.

Три класса рабочих нагрузок, три разных узких места: дообучение нагружает тензорные ядра FP16/BF16 (ограничение по FLOPS); обслуживание больших языковых моделей нагружает пропускную способность памяти (ограничение по пропускной способности); HPC-стиль симуляций нагружает FP32 (также ограничение по FLOPS). NVIDIA GeForce RTX 4080 SUPER компетентно покрывает все три класса для своего поколения. Если ваш микс рабочих нагрузок склоняется к одному классу, проводите бенчмарки именно с этой нагрузкой, а не полагайтесь на синтетические пиковые значения.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4080 SUPER page.