Яку пам’ять використовує NVIDIA GeForce RTX 4070 (HBM, GDDR)?

Відповідь

NVIDIA GeForce RTX 4070 має 12 ГБ GDDR6X з 504 ГБ/с пропускної здатності, забезпечує 29.1 TFLOPS обчислень FP16 і працює при 200 Вт. Вона базується на архітектурі Ada Lovelace, представленій у 2023.

Для більшості випадків використання ШІ це має три значення: 1) який розмір моделі можна завантажити; 2) наскільки швидко працює увага (обмежена пропускною здатністю); 3) наскільки швидко працюють операції, що інтенсивно використовують матричне множення (обмежені обчисленнями). NVIDIA GeForce RTX 4070 зазвичай знаходиться у збалансованій позиції за всіма трьома параметрами — саме тому вона часто зустрічається в хмарних каталогах, орієнтованих на команди машинного навчання.

Check the NVIDIA GeForce RTX 4070 page for complete specifications and related GPU matchups.