Kailan inilabas ang NVIDIA A10G?

Sagot

Ang NVIDIA A10G ay isang Ampere na card na may 24 GB ng GDDR6 memorya, 600 GB/s ng bandwidth, at 70 TFLOPS ng FP16 compute. Ito ay inilunsad noong 2021 at gumagamit ng hanggang 300W ng kuryente.

Sa totoong mga gawain, ang memory subsystem ang karaniwang pinakamahalagang salik: 600 GB/s ng bandwidth ay sapat upang suportahan ang karamihan ng mga gawain sa transformer decoding nang hindi nauubusan ang compute units, habang ang 24 GB ng VRAM ay sumusuporta sa malawak na hanay ng mga laki ng modelo, lalo na kapag naipataw na ang quantisation.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.