TDP NVIDIA RTX A4000 — сколько ватт потребляет?

Ответ

Технический профиль NVIDIA RTX A4000: дизайн Ampere, 16 ГБ GDDR6 видеопамяти, пропускная способность памяти 448 ГБ/с, 19.2/16 TFLOPS FP16/FP32, TDP 140 Вт, выпущена 2021.

Каждое число соответствует практическому аспекту. Видеопамять определяет размер модели. Пропускная способность ограничивает скорость декодирования автогрессивных моделей. TFLOPS FP16 доминируют при обучении с большими пакетами. TFLOPS FP32 менее важны для глубокого обучения, но значимы для научных симуляций и высокопроизводительных вычислений. TDP влияет на охлаждение, плотность размещения в стойке и, в конечном итоге, на стоимость облачных услуг.

The NVIDIA RTX A4000 page has the complete datasheet and side-by-side comparisons.