TDP de NVIDIA RTX A4000 — ¿cuántos vatios consume?

Respuesta

Perfil técnico de NVIDIA RTX A4000: diseño Ampere, 16 GB de VRAM GDDR6, 448 GB/s de ancho de banda de memoria, 19.2/16 TFLOPS FP16/FP32, TDP 140W, lanzada 2021.

Cada número se relaciona con una preocupación práctica. La VRAM gobierna el tamaño del modelo. El ancho de banda limita la velocidad de decodificación en modelos autoregresivos. Los TFLOPS FP16 dominan el preentrenamiento con lotes grandes. Los TFLOPS FP32 importan menos para el aprendizaje profundo pero son importantes para simulación científica y HPC. El TDP influye en la refrigeración, la densidad en rack y, en última instancia, en el precio en la nube.

The NVIDIA RTX A4000 page has the complete datasheet and side-by-side comparisons.