NVIDIA B100 每秒能生成多少张图像?

答案

NVIDIA B100 的基准性能:FP16 1,750 TFLOPS,FP32 60 TFLOPS,内存带宽 8,000 GB/s,显存 192 GB。

对于大多数工程师关心的工作负载——训练变换器家族模型、低延迟 LLM 推理、运行扩散和视觉流水线——这些规格足以维持使张量核心保持忙碌的批量大小。与上一代 Blackwell 显卡相比,实际时间提升预计在 1.5 倍到 3 倍之间,具体取决于工作负载形态。

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.

更多关于 NVIDIA B100 的常见问题

探索 NVIDIA B100