¿Cuándo fue lanzado NVIDIA A10G?

Respuesta

NVIDIA A10G es una tarjeta Ampere con 24 GB de memoria GDDR6, 600 GB/s de ancho de banda y 70 TFLOPS de cómputo FP16. Fue lanzada en 2021 y usa hasta 300W de potencia.

En cargas de trabajo reales, el subsistema de memoria suele ser el factor más importante: 600 GB/s de ancho de banda son suficientes para sostener la mayoría de las tareas de decodificación de transformadores sin dejar sin recursos a las unidades de cómputo, mientras que 24 GB de VRAM soportan una amplia gama de tamaños de modelos, especialmente una vez aplicada la cuantización.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.