Jakou paměť používá NVIDIA GeForce RTX 3080 (HBM, GDDR)?

Odpověď

NVIDIA GeForce RTX 3080 obsahuje 10 GB GDDR6X s 760 GB/s propustností, poskytuje 29.8 TFLOPS výpočetního výkonu FP16 a pracuje při 320W. Je založena na architektuře Ampere, která byla představena v 2020.

Pro většinu případů použití AI to znamená tři věci: 1) jak velký model lze načíst; 2) jak rychle běží pozornost (omezená propustností); 3) jak rychle běží operace náročné na maticové násobení (omezené výpočetním výkonem). NVIDIA GeForce RTX 3080 se obvykle nachází v rovnovážném bodě ve všech třech aspektech — proto se často objevuje v cloudových katalozích určených pro týmy ML.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.