Bagaimana NVIDIA GeForce RTX 4080 SUPER dibandingkan dengan H100 dalam benchmark?

Jawaban

NVIDIA GeForce RTX 4080 SUPER spesifikasi performa: 52.4 TFLOPS FP16 / 26.2 TFLOPS FP32 / 736 GB/s / 16 GB.

Tiga kelas beban kerja, tiga hambatan berbeda: fine-tuning menekan tensor core FP16/BF16 (terikat FLOPS); penyajian pada model bahasa besar menekan bandwidth memori (terikat bandwidth); simulasi gaya HPC menekan FP32 (juga terikat FLOPS). NVIDIA GeForce RTX 4080 SUPER menangani ketiganya dengan kompeten untuk generasinya. Jika campuran beban kerja Anda condong ke satu kelas, lakukan benchmark dengan beban kerja tersebut secara spesifik daripada mengandalkan angka puncak sintetis.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4080 SUPER page.