NVIDIA GeForce RTX 3080 sử dụng bộ nhớ gì (HBM, GDDR)?

Trả lời

NVIDIA GeForce RTX 3080 tích hợp 10 GB bộ nhớ GDDR6X với băng thông 760 GB/s, cung cấp 29.8 TFLOPS tính toán FP16, và hoạt động ở mức 320W. Nó dựa trên kiến trúc Ampere được giới thiệu vào 2020.

Đối với hầu hết các trường hợp sử dụng AI, điều này quan trọng theo ba cách: 1) kích thước mô hình bạn có thể tải; 2) tốc độ chạy attention (bị giới hạn bởi băng thông); 3) tốc độ chạy các phép toán nặng MatMul (bị giới hạn bởi tính toán). NVIDIA GeForce RTX 3080 thường nằm ở vị trí cân bằng trên cả ba — đó là lý do nó xuất hiện nhiều lần trong các danh mục đám mây dành cho các nhóm ML.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.