¿Qué tipo de memoria usa NVIDIA GeForce RTX 3080 (HBM, GDDR)?

Respuesta

NVIDIA GeForce RTX 3080 cuenta con 10 GB de GDDR6X con 760 GB/s de ancho de banda, ofrece 29.8 TFLOPS de cómputo FP16 y opera a 320W. Está basada en la arquitectura Ampere introducida en 2020.

Para la mayoría de los casos de uso de IA, esto importa en tres aspectos: 1) qué tan grande es el modelo que puedes cargar; 2) qué tan rápido corre la atención (limitada por ancho de banda); 3) qué tan rápido corren las operaciones pesadas en MatMul (limitadas por cómputo). NVIDIA GeForce RTX 3080 tiende a estar en un punto equilibrado en los tres, por eso aparece repetidamente en catálogos de nube dirigidos a equipos de ML.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.