Ilang mga larawan kada segundo ang kayang gawin ng NVIDIA B100?

Sagot

Benchmark na performance sa NVIDIA B100: 1,750 TFLOPS sa FP16, 60 TFLOPS sa FP32, 8,000 GB/s memory bandwidth, 192 GB VRAM.

Para sa mga workload na pinakainteresado ang mga engineer — model training ng transformer-family models, serving ng LLM low-latency inference, pagpapatakbo ng diffusion at vision pipelines — sapat ang mga specs na iyon upang mapanatili ang batch sizes na nagpapanatiling abala ang tensor cores. Asahan ang wall-clock gains kumpara sa mga naunang henerasyon ng Blackwell cards na mula 1.5x hanggang 3x depende sa hugis ng workload.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.