NVIDIA B100は1秒あたり何枚の画像を生成できますか？

回答

NVIDIA B100 のベンチマーク性能：FP16で 1,750 TFLOPS、FP32で 60 TFLOPS、8,000 GB/s のメモリ帯域幅、192 GB のVRAM。

エンジニアが最も関心を持つワークロード—トランスフォーマーファミリーモデルのトレーニング、LLMの低レイテンシ推論、拡散およびビジョンパイプラインの実行—に対して、これらの仕様はテンソルコアを忙しく保つバッチサイズを維持するのに十分です。前世代の Blackwell カードに比べてウォールクロック時間の改善はワークロードの形状により1.5倍から3倍の範囲で期待できます。

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.