NVIDIA · Blackwell Architecture

租用 NVIDIA B100 云端 GPU

Entry-level Blackwell data center GPU. Limited availability as most providers opted for B200.

VRAM 192 GB HBM3e
带宽 8,000 GB/s
FP16 1750.0 TFLOPS
FP32 60.0 TFLOPS
TDP 700W
架构 Blackwell

该GPU型号暂无价格数据。请稍后再查。

NVIDIA B100 技术规格

制造商 NVIDIA
架构 布莱克韦尔
显存 192 GB HBM3e
带宽 8,000 GB/s
FP16(张量) 1750.0 TFLOPS
FP32 60.0 TFLOPS
热设计功耗 700W
发布年份 2024
细分市场 数据中心
内存类型 HBM3e

适用场景

AI training large-scale inference

常见问题

NVIDIA B100 规格 — 显存、带宽和 TFLOPS 详解

NVIDIA B100 的硬件概览:架构 Blackwell,显存 192 GB HBM3e,带宽 8,000 GB/s,FP16 1,750 TFLOPS,FP32 60 TFLOPS,TDP 700W,年份 2024

这些规格将 NVIDIA B100 明确归类于现代一代 AI 加速器。是否合适取决于你的瓶颈是容量(显存)、吞吐量(带宽或 TFLOPS)还是成本——这三者都比任何单一的指标更重要。

Full specs, benchmarks, and comparisons are on the NVIDIA B100 page.

NVIDIA B100 每秒能生成多少张图像?

NVIDIA B100 的基准性能:FP16 1,750 TFLOPS,FP32 60 TFLOPS,内存带宽 8,000 GB/s,显存 192 GB。

对于大多数工程师关心的工作负载——训练变换器家族模型、低延迟 LLM 推理、运行扩散和视觉流水线——这些规格足以维持使张量核心保持忙碌的批量大小。与上一代 Blackwell 显卡相比,实际时间提升预计在 1.5 倍到 3 倍之间,具体取决于工作负载形态。

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.

NVIDIA B100 使用案例 — 它在哪些方面表现出色?

NVIDIA B100最适合其192 GB显存和Blackwell张量核心相匹配的工作负载:AI training, large-scale inference

如果你的工作负载需要显著更多内存(例如,从零开始训练前沿规模模型),NVIDIA B100容量不足,你需要选择H100/H200/B200级别的显卡。如果你的工作负载需求较少(例如,7B参数模型的小规模服务),像L4或RTX 4090这样的更便宜显卡可能更具成本效益。对于中间区间,NVIDIA B100通常是合理的选择。

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.

与其他 GPU 比较

查看 NVIDIA B100 在规格、价格和可用性方面与其他热门云 GPU 的对比。