TDP NVIDIA RTX A4000 — kolik wattů spotřebuje?

Odpověď

Technický profil NVIDIA RTX A4000: design Ampere, 16 GB GDDR6 VRAM, 448 GB/s paměťové propustnosti, 19.2/16 TFLOPS FP16/FP32, TDP 140W, uvedeno na trh 2021.

Každé číslo odpovídá praktickému aspektu. VRAM určuje velikost modelu. Propustnost omezuje rychlost dekódování u autoregresivních modelů. FP16 TFLOPS dominuje při tréninku s velkými dávkami. FP32 TFLOPS je méně důležité pro hluboké učení, ale důležité pro vědecké simulace a HPC. TDP ovlivňuje chlazení, hustotu v racku a nakonec cenu v cloudu.

The NVIDIA RTX A4000 page has the complete datasheet and side-by-side comparisons.