Milyen memóriát használ NVIDIA GeForce RTX 3080 (HBM, GDDR)?

Válasz

NVIDIA GeForce RTX 3080 10 GB GDDR6X memóriát csomagol 760 GB/s sávszélességgel, 29.8 TFLOPS FP16 számítást nyújt, és 320W teljesítménnyel működik. Az Ampere architektúrán alapul, amelyet 2020 mutattak be.

A legtöbb MI használati esetben ez három szempontból fontos: 1) mekkora modellt lehet betölteni; 2) milyen gyorsan fut a figyelem (sávszélesség-korlátozott); 3) milyen gyorsan futnak a MatMul-igényes műveletek (számítás-korlátozott). NVIDIA GeForce RTX 3080 általában kiegyensúlyozott helyet foglal el mindhárom területen — ezért jelenik meg ismételten a felhő katalógusaiban, amelyek ML csapatokat céloznak meg.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.