Quelle mémoire utilise NVIDIA GeForce RTX 3080 (HBM, GDDR) ?

Réponse

NVIDIA GeForce RTX 3080 embarque 10 Go de GDDR6X avec 760 Go/s de bande passante, délivre 29.8 TFLOPS de calcul FP16, et fonctionne à 320W. Elle est basée sur l'architecture Ampere introduite en 2020.

Pour la plupart des cas d'utilisation en IA, cela compte de trois manières : 1) la taille du modèle que vous pouvez charger ; 2) la rapidité d'exécution de l'attention (limitée par la bande passante) ; 3) la rapidité des opérations intensives en MatMul (limitée par le calcul). NVIDIA GeForce RTX 3080 tend à se situer à un point d'équilibre sur ces trois aspects — c'est pourquoi elle apparaît fréquemment dans les catalogues cloud destinés aux équipes ML.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.