Que tipo de memória NVIDIA GeForce RTX 4070 usa (HBM, GDDR)?

Resposta

NVIDIA GeForce RTX 4070 possui 12 GB de GDDR6X com 504 GB/s de largura de banda, entrega 29.1 TFLOPS de computação FP16 e opera a 200W. É baseada na arquitetura Ada Lovelace introduzida em 2023.

Para a maioria dos casos de uso em IA, isso importa em três aspectos: 1) o tamanho do modelo que você pode carregar; 2) a velocidade da atenção (limitada pela largura de banda); 3) a velocidade das operações pesadas em MatMul (limitada pela computação). NVIDIA GeForce RTX 4070 tende a estar em um ponto equilibrado nos três — por isso aparece repetidamente em catálogos de nuvem voltados para equipes de ML.

Check the NVIDIA GeForce RTX 4070 page for complete specifications and related GPU matchups.