Какую память использует NVIDIA GeForce RTX 3080 (HBM, GDDR)?

Ответ

NVIDIA GeForce RTX 3080 оснащена 10 ГБ GDDR6X с пропускной способностью 760 ГБ/с, обеспечивает 29.8 TFLOPS вычислений FP16 и потребляет 320 Вт. Она основана на архитектуре Ampere, представленной в 2020.

Для большинства задач ИИ это важно в трёх аспектах: 1) какой размер модели можно загрузить; 2) насколько быстро работает внимание (ограничено пропускной способностью); 3) насколько быстро выполняются операции, интенсивно использующие матричные умножения (ограничены вычислениями). NVIDIA GeForce RTX 3080 обычно занимает сбалансированное положение по всем трём параметрам — именно поэтому она часто встречается в облачных каталогах, ориентированных на команды машинного обучения.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.