Che tipo di memoria usa NVIDIA GeForce RTX 4070 (HBM, GDDR)?

Risposta

NVIDIA GeForce RTX 4070 dispone di 12 GB di GDDR6X con 504 GB/s di larghezza di banda, eroga 29.1 TFLOPS di calcolo FP16 e opera a 200W. È basata sull'architettura Ada Lovelace introdotta in 2023.

Per la maggior parte dei casi d'uso AI questo conta in tre modi: 1) quanto grande può essere il modello caricato; 2) quanto velocemente gira l'attenzione (limitata dalla larghezza di banda); 3) quanto velocemente girano le operazioni pesanti di MatMul (limitata dal calcolo). NVIDIA GeForce RTX 4070 tende a trovarsi in una posizione bilanciata su tutti e tre — motivo per cui appare ripetutamente nei cataloghi cloud rivolti ai team di ML.

Check the NVIDIA GeForce RTX 4070 page for complete specifications and related GPU matchups.