Berapa banyak imej sesaat yang boleh dijana oleh NVIDIA B100?

Jawapan

Prestasi penanda aras pada NVIDIA B100: 1,750 TFLOPS dalam FP16, 60 TFLOPS dalam FP32, 8,000 GB/s lebar jalur memori, 192 GB VRAM.

Untuk beban kerja yang paling penting bagi jurutera — latihan model keluarga transformer, penyajian inferens LLM berlatensi rendah, menjalankan saluran difusi dan visi — spesifikasi itu cukup untuk mengekalkan saiz kelompok yang memastikan teras tensor sibuk. Jangkaan peningkatan masa jam dinding berbanding kad Blackwell generasi sebelumnya adalah antara 1.5x hingga 3x bergantung pada bentuk beban kerja.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.