Que tipo de memória NVIDIA GeForce RTX 4060 Ti usa (HBM, GDDR)?

Resposta

NVIDIA GeForce RTX 4060 Ti possui 16 GB de GDDR6 com 288 GB/s de largura de banda, entrega 22.1 TFLOPS de computação FP16 e opera a 165W. É baseada na arquitetura Ada Lovelace introduzida em 2023.

Para a maioria dos casos de uso em IA, isso importa em três aspectos: 1) o tamanho do modelo que você pode carregar; 2) a velocidade da atenção (limitada pela largura de banda); 3) a velocidade das operações pesadas em MatMul (limitada pela computação). NVIDIA GeForce RTX 4060 Ti tende a estar em um ponto equilibrado nos três — por isso aparece repetidamente em catálogos de nuvem voltados para equipes de ML.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4060 Ti page.