NVIDIA · Ampere Architecture

レンタル NVIDIA A10G クラウドで

AWS-specific GPU common in cloud ML workloads. Good balance of compute and graphics.

VRAM 24 GB GDDR6
帯域幅 600 GB/s
FP16 70.0 TFLOPS
FP32 35.0 TFLOPS
TDP 300W
アーキテクチャ Ampere

このGPUモデルの価格データはまだありません。近日中にご確認ください。

NVIDIA A10G 技術仕様

製造元 NVIDIA
アーキテクチャ アンペア
VRAM 24 GB GDDR6
帯域幅 600 GB/s
FP16(テンソル) 70.0 TFLOPS
FP32 35.0 TFLOPS
TDP 300W
発売年 2021
セグメント データセンター
メモリタイプ GDDR6

最適用途

Inference graphics rendering AI-accelerated workloads

よくある質問

NVIDIA A10Gはいつ発売されましたか?

NVIDIA A10Gは、Ampereカードで、24 GBのGDDR6メモリ、600 GB/sの帯域幅、そして70 TFLOPSのFP16演算性能を備えています。2021に発売され、最大300Wの消費電力を使用します。

実際のワークロードでは、メモリサブシステムが最も重要な要素となることが多いです:600 GB/sの帯域幅は、ほとんどのトランスフォーマーのデコードタスクをコンピュートユニットを枯渇させることなく維持するのに十分であり、24 GBのVRAMは、特に量子化が適用された場合に幅広いモデルサイズをサポートします。

Check the NVIDIA A10G page for complete specifications and related GPU matchups.

NVIDIA A10Gのテンソルコア性能

NVIDIA A10G は Ampere カードで、70 FP16 TFLOPS と 35 FP32 TFLOPS、そして 600 GB/s のメモリ帯域幅を提供します。これは現代のモデルトレーニングとリアルタイムサービングワークロードを大規模に処理するのに十分な計算性能です。

ベンチマークでは、NVIDIA A10G は大規模な行列積でテンソルコアが飽和するトランスフォーマースタイルのモデルで特に優れた性能を示します。拡散モデル、音声、ビジョンワークロードも旧世代に比べて大幅な高速化を実現しています。レイテンシに敏感な本番リアルタイムサービングでは、NVIDIA A10G は多くの製品が目標とする30〜50トークン/秒の閾値を大幅に上回るトークン毎秒を大規模言語モデルで通常達成します。

The NVIDIA A10G page has the complete datasheet and side-by-side comparisons.

NVIDIA A10G は 2026 でもまだ有効ですか?

NVIDIA A10GはInference, graphics rendering, AI-accelerated workloadsで輝きます。このカードの24 GBのVRAMとAmpere世代のテンソルコアは、バッチサイズを大きくし、最新の混合精度サポートの恩恵を受けるAIワークロードに強力にマッチします。

おもちゃのような実験には過剰で、最先端モデルには小さすぎますが、広範な中間層をカバーします:オープンソーストランスフォーマーのファインチューニング、拡散モデルのトレーニング、バッチリアルタイムサービングパイプラインの実行、コンシューマーカードより多くのVRAMを必要とするインタラクティブなワークフローの支援。

Full specs, benchmarks, and comparisons are on the NVIDIA A10G page.

他の GPU と比較する

NVIDIA A10G が他の人気クラウド GPU とスペック、価格、可用性でどう比較されるかをご覧ください。