NVIDIA GeForce RTX 3080はどのメモリを使っていますか(HBM、GDDR)?
回答
NVIDIA GeForce RTX 3080は10 GBのGDDR6Xを搭載し、760 GB/sの帯域幅を持ち、FP16演算性能は29.8 TFLOPS、消費電力は320Wです。2020に導入されたAmpereアーキテクチャに基づいています。
ほとんどのAIユースケースで重要なのは、1) ロード可能なモデルサイズ、2) アテンションの実行速度(帯域幅制限)、3) 行列乗算が多い操作の速度(演算性能制限)の3点です。NVIDIA GeForce RTX 3080はこれら3点でバランスの取れた位置にあり、MLチーム向けのクラウドカタログに繰り返し登場します。
Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.