Чи є NVIDIA GH200 Superchip достатньо хорошим для виробничого висновку?

Відповідь

Коротка відповідь: NVIDIA GH200 Superchip працює на 989 FP16 TFLOPS з 4,000 ГБ/с пропускної здатності пам’яті. Довша відповідь залежить від того, що ви запускаєте.

Для щільного FP16 навчання з великими пакетами NVIDIA GH200 Superchip насичує тензорні ядра і забезпечує пропускну здатність близько до пікових FLOPS. Для обслуговування, обмеженого пам’яттю, на моделях з довгим контекстом пропускна здатність домінує — показник 4,000 ГБ/с важливіший за заголовкові TFLOPS. Для наукових обчислень релевантним є показник FP32 у 494.5 TFLOPS, що ставить NVIDIA GH200 Superchip у відповідність з HPC очікуваннями свого класу Hopper.

Check the NVIDIA GH200 Superchip page for complete specifications and related GPU matchups.