Wie viele Bilder pro Sekunde kann NVIDIA B100 erzeugen?

Antwort

Benchmark-Leistung bei NVIDIA B100: 1,750 TFLOPS in FP16, 60 TFLOPS in FP32, 8,000 GB/s Speicherbandbreite, 192 GB VRAM.

Für die Arbeitslasten, die den meisten Ingenieuren wichtig sind — Modelltraining von Transformer-Familienmodellen, Bereitstellung von LLM-Low-Latency-Inferenz, Ausführung von Diffusions- und Bildverarbeitungspipelines — sind diese Spezifikationen ausreichend, um Batch-Größen zu halten, die die Tensor-Kerne auslasten. Erwarten Sie Wanduhrenzeit-Gewinne gegenüber vorherigen Blackwell Karten der Generation von 1,5x bis 3x, abhängig von der Arbeitslastform.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.