Когда был выпущен NVIDIA A10G?

Ответ

NVIDIA A10G — это Ampere карта с 24 ГБ GDDR6 памяти, 600 ГБ/с пропускной способности и 70 TFLOPS вычислений FP16. Она была выпущена в 2021 и потребляет до 300 Вт мощности.

В реальных задачах подсистема памяти обычно является самым важным фактором: 600 ГБ/с пропускной способности достаточно для поддержания большинства задач декодирования трансформеров без «голодания» вычислительных блоков, а 24 ГБ видеопамяти поддерживают широкий диапазон размеров моделей, особенно после применения квантизации.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.