レンタル NVIDIA GB200 Superchip クラウドで
Dual-B200 superchip with Grace CPU. 384GB combined HBM3e for extreme-scale workloads.
このGPUモデルの価格データはまだありません。近日中にご確認ください。
NVIDIA GB200 Superchip 技術仕様
最適用途
よくある質問
NVIDIA GB200 SuperchipはBF16とFP8をサポートしていますか？
完全なNVIDIA GB200 Superchip仕様書：Blackwell世代、384 GBのHBM3e VRAM、16,000 GB/sのメモリ帯域幅、FP16演算性能4,500 TFLOPS、FP32演算性能150 TFLOPS、消費電力2,700W、2024に発売。
メモリは大規模モデルのリアルタイムサービスにおける制約要因であり、384 GBでNVIDIA GB200 SuperchipはFP16で中規模トランスフォーマーを快適に扱い、FP8/INT8ではさらに大きなモデルも可能です。16,000 GB/sの帯域幅は、KVキャッシュ制約の自己回帰デコーディングで特に重要で、メモリ帯域幅がトークン毎秒を生の演算性能より制限します。
Full specs, benchmarks, and comparisons are on the NVIDIA GB200 Superchip page.
複数GPUでのNVIDIA GB200 Superchipのスケーリング性能は？
NVIDIA GB200 Superchip の性能概要：4,500 FP16 TFLOPS、150 FP32 TFLOPS、16,000 GB/s 帯域幅、384 GB VRAM。
実用的なベンチマークに換算すると、7BパラメータのLLMをFP16で合理的なバッチサイズでトレーニングすると、通常は帯域幅より先に計算性能が飽和します。同じモデルのリアルタイムサービングは通常帯域幅制限で、16,000 GB/s の数値に追随します。拡散画像生成ベンチマークは両者の中間に位置し、計算負荷の高いステップはテンソルコアをよく活用し、アテンションブロックは帯域幅にアクセスします。
See the NVIDIA GB200 Superchip page for the full spec sheet and comparisons to related GPUs.
NVIDIA GB200 Superchip の使用例 — どこで輝きますか？
NVIDIA GB200 Superchipは、その384 GBのVRAMとBlackwellのテンソルコアがよくマッチするワークロードに最適です：Largest-scale AI training, multi-trillion parameter models。
もしワークロードが大幅に多くのメモリを必要とする場合（例：最先端モデルのスクラッチトレーニング）、NVIDIA GB200 Superchipは小さすぎて、H100/H200/B200クラスのカードが望ましいでしょう。逆に少なめのメモリで済む場合（例：7Bパラメータモデルの小規模サービング）、L4やRTX 4090などの安価なカードの方がコスト効率が良いかもしれません。中間帯では、通常NVIDIA GB200 Superchipが賢明な選択です。
Review full specs and related comparisons on the NVIDIA GB200 Superchip page.
他の GPU と比較する
NVIDIA GB200 Superchip が他の人気クラウド GPU とスペック、価格、可用性でどう比較されるかをご覧ください。