¿Qué tipo de memoria usa NVIDIA GeForce RTX 4070 (HBM, GDDR)?

Respuesta

NVIDIA GeForce RTX 4070 cuenta con 12 GB de GDDR6X con 504 GB/s de ancho de banda, ofrece 29.1 TFLOPS de cómputo FP16 y opera a 200W. Está basada en la arquitectura Ada Lovelace introducida en 2023.

Para la mayoría de los casos de uso de IA, esto importa en tres aspectos: 1) qué tan grande es el modelo que puedes cargar; 2) qué tan rápido corre la atención (limitada por ancho de banda); 3) qué tan rápido corren las operaciones pesadas en MatMul (limitadas por cómputo). NVIDIA GeForce RTX 4070 tiende a estar en un punto equilibrado en los tres, por eso aparece repetidamente en catálogos de nube dirigidos a equipos de ML.

Check the NVIDIA GeForce RTX 4070 page for complete specifications and related GPU matchups.