Полный технический паспорт NVIDIA GeForce RTX 4080 — характеристики, важные для глубокого обучения

Ответ

NVIDIA GeForce RTX 4080 — это 2022 поколение Ada Lovelace карты с 16 ГБ GDDR6X памяти и 717 ГБ/с пропускной способности. Пиковая производительность вычислений достигает 48.7 TFLOPS FP16 и 24.4 TFLOPS FP32; тепловой пакет (TDP) составляет 320 Вт.

Сочетание объёма видеопамяти и пропускной способности является ключевой характеристикой для задач машинного обучения — оно определяет, какие размеры моделей доступны и насколько интенсивно карту можно использовать при производственном инференсе. Потребление энергии и требования к охлаждению означают, что большинство развертываний NVIDIA GeForce RTX 4080 происходит в дата-центрах, а не на рабочих станциях, поэтому в практике доступ к NVIDIA GeForce RTX 4080 чаще всего осуществляется через облако.

Check the NVIDIA GeForce RTX 4080 page for complete specifications and related GPU matchups.