Является ли NVIDIA GeForce RTX 3080 Ti картой для дата-центров, профессиональной или потребительской?

Ответ

NVIDIA GeForce RTX 3080 Ti построена на архитектуре Ampere и поставляется с 12 ГБ GDDR6X памяти с пропускной способностью 912 ГБ/с. Выпущена в 2021, карта обеспечивает 34.1 TFLOPS FP16 и 17 TFLOPS FP32 при TDP 350 Вт.

Для исследователей в области машинного обучения эти показатели переводятся в несколько практических ограничений: потолок видеопамяти диктует максимальный размер весов крупной языковой модели, которую можно загрузить (и максимальный размер пакета при заданной длине последовательности), а пропускная способность памяти устанавливает верхнюю границу для инференса с интенсивным вниманием. Вычислительная пропускная способность важна прежде всего для плотных матричных умножений — предварительного обучения, обучения с большими пакетами и диффузионных моделей.

Check the NVIDIA GeForce RTX 3080 Ti page for complete specifications and related GPU matchups.