Kiedy wydano NVIDIA A10G?
Odpowiedź
NVIDIA A10G to karta Ampere z 24 GB pamięci GDDR6, 600 GB/s przepustowości oraz 70 TFLOPS mocy obliczeniowej FP16. Została wprowadzona na rynek w 2021 i zużywa do 300W mocy.
W rzeczywistych obciążeniach podsystem pamięci jest zazwyczaj najważniejszym czynnikiem: 600 GB/s przepustowości wystarcza, aby utrzymać większość zadań dekodowania transformera bez niedoboru jednostek obliczeniowych, podczas gdy 24 GB VRAM wspiera szeroki zakres rozmiarów modeli, zwłaszcza po zastosowaniu kwantyzacji.
Check the NVIDIA A10G page for complete specifications and related GPU matchups.