Ce tip de memorie folosește NVIDIA GeForce RTX 3080 (HBM, GDDR)?

Răspuns

NVIDIA GeForce RTX 3080 oferă 10 GB de memorie GDDR6X cu 760 GB/s lățime de bandă, livrează 29.8 TFLOPS de calcul FP16 și funcționează la 320W. Este bazată pe arhitectura Ampere introdusă în 2020.

Pentru majoritatea cazurilor de utilizare AI, acest lucru contează în trei moduri: 1) cât de mare este modelul pe care îl puteți încărca; 2) cât de rapid rulează atenția (limită de lățime de bandă); 3) cât de rapid rulează operațiunile intensive în MatMul (limită de calcul). NVIDIA GeForce RTX 3080 tinde să se situeze într-un punct echilibrat în toate cele trei — motiv pentru care apare frecvent în cataloagele cloud destinate echipelor ML.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.