¿Qué tipo de memoria usa NVIDIA GeForce RTX 4060 Ti (HBM, GDDR)?

Respuesta

NVIDIA GeForce RTX 4060 Ti cuenta con 16 GB de GDDR6 con 288 GB/s de ancho de banda, ofrece 22.1 TFLOPS de cómputo FP16 y opera a 165W. Está basada en la arquitectura Ada Lovelace introducida en 2023.

Para la mayoría de los casos de uso de IA, esto importa en tres aspectos: 1) qué tan grande es el modelo que puedes cargar; 2) qué tan rápido corre la atención (limitada por ancho de banda); 3) qué tan rápido corren las operaciones pesadas en MatMul (limitadas por cómputo). NVIDIA GeForce RTX 4060 Ti tiende a estar en un punto equilibrado en los tres, por eso aparece repetidamente en catálogos de nube dirigidos a equipos de ML.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4060 Ti page.