Când a fost lansat NVIDIA A10G?

Răspuns

NVIDIA A10G este o placă Ampere cu 24 GB de memorie GDDR6, 600 GB/s lățime de bandă și 70 TFLOPS de calcul FP16. A fost lansată în 2021 și consumă până la 300W.

În sarcini reale, subsistemul de memorie este de obicei cel mai important factor: 600 GB/s lățime de bandă este suficient pentru a susține majoritatea sarcinilor de decodare transformer fără a înfometa unitățile de calcul, în timp ce 24 GB de VRAM suportă o gamă largă de dimensiuni de modele, mai ales după aplicarea cuantizării.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.