TDP NVIDIA RTX A4000 — скільки ват споживає?

Відповідь

Технічний профіль NVIDIA RTX A4000: дизайн Ampere, 16 ГБ GDDR6 VRAM, пропускна здатність пам’яті 448 ГБ/с, 19.2/16 TFLOPS FP16/FP32, TDP 140 Вт, випущена 2021.

Кожне число відповідає практичній проблемі. VRAM визначає розмір моделі. Пропускна здатність обмежує швидкість декодування автогресивних моделей. TFLOPS FP16 домінує у тренуванні великими пакетами перед моделлю. TFLOPS FP32 менш важливі для глибокого навчання, але важливі для наукового моделювання та ВВВ. TDP впливає на охолодження, щільність у стійці та в кінцевому підсумку на ціну у хмарі.

The NVIDIA RTX A4000 page has the complete datasheet and side-by-side comparisons.