Apakah NVIDIA GeForce RTX 3080 Ti kartu data-center, profesional, atau konsumen?

Jawaban

NVIDIA GeForce RTX 3080 Ti dibangun di atas arsitektur Ampere dan dilengkapi dengan 12 GB memori GDDR6X dengan bandwidth 912 GB/s. Dirilis pada 2021, kartu ini memberikan 34.1 TFLOPS FP16 dan 17 TFLOPS FP32 dengan TDP 350W.

Bagi peneliti pembelajaran mesin, angka-angka tersebut menerjemahkan ke beberapa batas praktis: batas VRAM menentukan bobot model bahasa besar terbesar yang dapat dimuat (dan ukuran batch maksimum pada panjang urutan tertentu), sementara bandwidth memori menetapkan batas atas untuk inferensi berat perhatian. Throughput komputasi paling penting untuk perkalian matriks padat — pra-pelatihan, pra-pelatihan batch besar, dan difusi.

Check the NVIDIA GeForce RTX 3080 Ti page for complete specifications and related GPU matchups.