Wann wurde NVIDIA A10G veröffentlicht?

Antwort

NVIDIA A10G ist eine Ampere Karte mit 24 GB GDDR6 Speicher, 600 GB/s Bandbreite und 70 TFLOPS FP16-Rechenleistung. Sie wurde im 2021 eingeführt und verbraucht bis zu 300W Leistung.

Bei realen Arbeitslasten ist das Speichersubsystem typischerweise der wichtigste Faktor: 600 GB/s Bandbreite reichen aus, um die meisten Transformer-Decodierungsaufgaben ohne Engpässe bei den Recheneinheiten zu bewältigen, während 24 GB VRAM eine breite Palette von Modellgrößen unterstützen, insbesondere sobald Quantisierung angewendet wird.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.