Какую память использует NVIDIA GeForce RTX 4070 (HBM, GDDR)?

Ответ

NVIDIA GeForce RTX 4070 оснащена 12 ГБ GDDR6X с пропускной способностью 504 ГБ/с, обеспечивает 29.1 TFLOPS вычислений FP16 и потребляет 200 Вт. Она основана на архитектуре Ada Lovelace, представленной в 2023.

Для большинства задач ИИ это важно в трёх аспектах: 1) какой размер модели можно загрузить; 2) насколько быстро работает внимание (ограничено пропускной способностью); 3) насколько быстро выполняются операции, интенсивно использующие матричные умножения (ограничены вычислениями). NVIDIA GeForce RTX 4070 обычно занимает сбалансированное положение по всем трём параметрам — именно поэтому она часто встречается в облачных каталогах, ориентированных на команды машинного обучения.

Check the NVIDIA GeForce RTX 4070 page for complete specifications and related GPU matchups.