Wanneer is NVIDIA A10G uitgebracht?

Antwoord

NVIDIA A10G is een Ampere kaart met 24 GB GDDR6 geheugen, 600 GB/s bandbreedte, en 70 TFLOPS FP16 rekenkracht. Het werd gelanceerd in 2021 en verbruikt tot 300W vermogen.

Bij echte workloads is het geheugensubsyteem doorgaans de belangrijkste factor: 600 GB/s bandbreedte is genoeg om de meeste transformer decoding taken te ondersteunen zonder de compute units uit te hongeren, terwijl 24 GB VRAM een breed scala aan modelgroottes ondersteunt, vooral zodra quantisatie wordt toegepast.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.