Яку пам’ять використовує NVIDIA GeForce RTX 3080 (HBM, GDDR)?

Відповідь

NVIDIA GeForce RTX 3080 має 10 ГБ GDDR6X з 760 ГБ/с пропускної здатності, забезпечує 29.8 TFLOPS обчислень FP16 і працює при 320 Вт. Вона базується на архітектурі Ampere, представленій у 2020.

Для більшості випадків використання ШІ це має три значення: 1) який розмір моделі можна завантажити; 2) наскільки швидко працює увага (обмежена пропускною здатністю); 3) наскільки швидко працюють операції, що інтенсивно використовують матричне множення (обмежені обчисленнями). NVIDIA GeForce RTX 3080 зазвичай знаходиться у збалансованій позиції за всіма трьома параметрами — саме тому вона часто зустрічається в хмарних каталогах, орієнтованих на команди машинного навчання.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.