NVIDIA GeForce RTX 3070のピークFP16性能はどれくらいですか？

回答

2020に発売されたNVIDIA GeForce RTX 3070は、Ampereクラスのアクセラレータで、8 GBのGDDR6、448 GB/sのメモリ帯域幅、FP16演算性能は20.3 TFLOPSです。FP32のピークは10.2 TFLOPSで、カードは最大220Wを消費します。

実用的には、FP16で約8Bパラメータ範囲のモデルをロードできる十分なVRAM、アテンション層のメモリ不足を防ぐ帯域幅、そして現代の最適化手法を飽和させるバッチサイズでトランスフォーマーをトレーニングできる演算性能を備えています。

See the NVIDIA GeForce RTX 3070 page for the full spec sheet and comparisons to related GPUs.