Quand NVIDIA A10G a-t-il été lancé ?

Réponse

NVIDIA A10G est une carte Ampere avec 24 Go de mémoire GDDR6, 600 Go/s de bande passante, et 70 TFLOPS de calcul FP16. Elle a été lancée en 2021 et utilise jusqu'à 300W de puissance.

Dans les charges de travail réelles, le sous-système mémoire est généralement le facteur le plus important : 600 Go/s de bande passante suffisent à soutenir la plupart des tâches de décodage de transformateurs sans priver les unités de calcul, tandis que 24 Go de VRAM supportent une large gamme de tailles de modèles, surtout une fois la quantification appliquée.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.