Jaką pamięć wykorzystuje NVIDIA GeForce RTX 3080 (HBM, GDDR)?

Odpowiedź

NVIDIA GeForce RTX 3080 oferuje 10 GB pamięci GDDR6X z przepustowością 760 GB/s, dostarcza 29.8 TFLOPS mocy obliczeniowej FP16 i działa przy 320W. Bazuje na architekturze Ampere, wprowadzonej w 2020.

Dla większości zastosowań AI ma to znaczenie w trzech aspektach: 1) jak duży model można załadować; 2) jak szybko działa uwaga (ograniczona przepustowością); 3) jak szybko działają operacje intensywnie wykorzystujące mnożenie macierzy (ograniczone mocą obliczeniową). NVIDIA GeForce RTX 3080 zwykle znajduje się w zrównoważonym punkcie we wszystkich trzech — dlatego pojawia się wielokrotnie w katalogach chmurowych skierowanych do zespołów ML.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.