Welchen Speicher verwendet NVIDIA GeForce RTX 3080 (HBM, GDDR)?

Antwort

NVIDIA GeForce RTX 3080 verfügt über 10 GB GDDR6X mit 760 GB/s Bandbreite, liefert 29.8 TFLOPS FP16-Rechenleistung und arbeitet mit 320W. Sie basiert auf der Ampere Architektur, die in 2020 eingeführt wurde.

Für die meisten KI-Anwendungsfälle ist das in dreierlei Hinsicht wichtig: 1) wie groß ein Modell geladen werden kann; 2) wie schnell die Aufmerksamkeit läuft (bandbreitengebunden); 3) wie schnell MatMul-lastige Operationen laufen (rechengebunden). NVIDIA GeForce RTX 3080 befindet sich meist in einem ausgewogenen Bereich bei allen drei Punkten – weshalb sie häufig in Cloud-Katalogen für ML-Teams auftaucht.

Check the NVIDIA GeForce RTX 3080 page for complete specifications and related GPU matchups.