NVIDIA GeForce RTX 3080 ใช้หน่วยความจำประเภทใด (HBM, GDDR)?

คำตอบ

NVIDIA GeForce RTX 3080 มีหน่วยความจำ 10 GB ของ GDDR6X พร้อมแบนด์วิดธ์ 760 GB/s ให้ประสิทธิภาพการคำนวณ FP16 ที่ 29.8 TFLOPS และทำงานที่ 320W อิงตามสถาปัตยกรรม Ampere ที่เปิดตัวใน 2020

สำหรับกรณีใช้งาน AI ส่วนใหญ่ สิ่งนี้มีความสำคัญในสามด้าน: 1) ขนาดโมเดลที่สามารถโหลดได้; 2) ความเร็วในการทำงานของ attention (จำกัดด้วยแบนด์วิดธ์); 3) ความเร็วในการทำงานของคำสั่ง MatMul หนัก (จำกัดด้วยการคำนวณ) NVIDIA GeForce RTX 3080 มักอยู่ในตำแหน่งที่สมดุลในทั้งสามด้าน — ซึ่งเป็นเหตุผลที่มันปรากฏบ่อยในแคตตาล็อกคลาวด์ที่มุ่งเป้าไปที่ทีม ML

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.