Cum se compară NVIDIA GeForce RTX 4080 SUPER cu H100 în benchmark-uri?

Răspuns

Specificații de performanță NVIDIA GeForce RTX 4080 SUPER: 52.4 TFLOPS FP16 / 26.2 TFLOPS FP32 / 736 GB/s / 16 GB.

Trei clase de sarcini de lucru, trei blocaje diferite: ajustarea fină solicită nucleele tensor FP16/BF16 (limitate de FLOPS); servirea pe modele mari de limbaj solicită lățimea de bandă a memoriei (limitare de bandă); simularea de tip HPC solicită FP32 (de asemenea limitată de FLOPS). NVIDIA GeForce RTX 4080 SUPER acoperă competent toate trei pentru generația sa. Dacă mixul dvs. de sarcini tinde spre o clasă anume, faceți benchmark cu acea sarcină specifică în loc să vă bazați pe cifre sintetice maxime.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4080 SUPER page.