Berapa banyak gambar per detik yang dapat dihasilkan NVIDIA B100?

Jawaban

Performa benchmark pada NVIDIA B100: 1,750 TFLOPS FP16, 60 TFLOPS FP32, 8,000 GB/s bandwidth memori, 192 GB VRAM.

Untuk beban kerja yang paling diperhatikan insinyur — pelatihan model keluarga transformer, penyajian inferensi LLM latensi rendah, menjalankan pipeline difusi dan visi — spesifikasi tersebut cukup untuk mempertahankan ukuran batch yang menjaga tensor core sibuk. Harapkan peningkatan waktu dinding dibanding kartu Blackwell generasi sebelumnya berkisar antara 1,5x hingga 3x tergantung bentuk beban kerja.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.