Che tipo di memoria usa NVIDIA GeForce RTX 3080 (HBM, GDDR)?

Risposta

NVIDIA GeForce RTX 3080 dispone di 10 GB di GDDR6X con 760 GB/s di larghezza di banda, eroga 29.8 TFLOPS di calcolo FP16 e opera a 320W. È basata sull'architettura Ampere introdotta in 2020.

Per la maggior parte dei casi d'uso AI questo conta in tre modi: 1) quanto grande può essere il modello caricato; 2) quanto velocemente gira l'attenzione (limitata dalla larghezza di banda); 3) quanto velocemente girano le operazioni pesanti di MatMul (limitata dal calcolo). NVIDIA GeForce RTX 3080 tende a trovarsi in una posizione bilanciata su tutti e tre — motivo per cui appare ripetutamente nei cataloghi cloud rivolti ai team di ML.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.