Quando NVIDIA A10G foi lançado?

Resposta

NVIDIA A10G é uma placa Ampere com 24 GB de memória GDDR6, 600 GB/s de largura de banda e 70 TFLOPS de computação FP16. Foi lançada em 2021 e consome até 300W de energia.

Em cargas de trabalho reais, o subsistema de memória é tipicamente o fator mais importante: 600 GB/s de largura de banda é suficiente para sustentar a maioria das tarefas de decodificação de transformadores sem deixar as unidades de computação ociosas, enquanto 24 GB de VRAM suportam uma ampla gama de tamanhos de modelos, especialmente após a aplicação de quantização.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.