NVIDIA B100 saniyede kaç görüntü üretebilir?

Cevap

NVIDIA B100 üzerindeki kıyaslanmış performans: FP16'da 1,750 TFLOPS, FP32'de 60 TFLOPS, 8,000 GB/s bellek bant genişliği, 192 GB VRAM.

Mühendislerin en çok önem verdiği iş yükleri için — dönüştürücü ailesi modellerin eğitimi, LLM düşük gecikmeli çıkarımı, difüzyon ve görsel iş akışlarının çalıştırılması — bu özellikler tensör çekirdeklerini meşgul tutacak toplu boyutlarını sürdürmek için yeterlidir. Önceki nesil Blackwell kartlara kıyasla duvar saati kazanımlarının iş yükü şekline bağlı olarak 1.5x ila 3x arasında değişmesini bekleyin.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.