Mikor jelent meg NVIDIA A10G?

Válasz

NVIDIA A10G egy Ampere kártya 24 GB GDDR6 memóriával, 600 GB/s sávszélességgel és 70 TFLOPS FP16 számítási teljesítménnyel. 2021 indult, és akár 300W teljesítményt is felhasznál.

Valós terhelések esetén a memória alrendszer általában a legfontosabb tényező: 600 GB/s sávszélesség elegendő a legtöbb transzformer dekódolási feladat fenntartásához anélkül, hogy az számítási egységek éheznének, míg 24 GB VRAM támogatja a modellméretek széles skáláját, különösen a kvantálás alkalmazása után.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.