NVIDIA A10G được phát hành khi nào?

Trả lời

NVIDIA A10G là một card Ampere với 24 GB bộ nhớ GDDR6, 600 GB/s băng thông, và 70 TFLOPS tính toán FP16. Nó được ra mắt vào 2021 và sử dụng tối đa 300W điện năng.

Trong các khối lượng công việc thực tế, hệ thống bộ nhớ thường là yếu tố quan trọng nhất: 600 GB/s băng thông đủ để duy trì hầu hết các tác vụ giải mã transformer mà không làm đói các đơn vị tính toán, trong khi 24 GB VRAM hỗ trợ nhiều kích thước mô hình khác nhau, đặc biệt khi áp dụng lượng tử hóa.

Check the NVIDIA A10G page for complete specifications and related GPU matchups.