NVIDIA A16 full datasheet — the specs that matter for deep learning

回答

NVIDIA A16 is a 2021-generation Ampere card with 64 GB of GDDR6 memory and 800 GB/s bandwidth. Compute peaks at 72 FP16 TFLOPS and 18 FP32 TFLOPS; TDP sits at 250W.

The VRAM/bandwidth pairing is the defining feature for machine learning work — it determines what model sizes are accessible and how hard the card can be pushed during production inference. Power draw and cooling requirements mean most NVIDIA A16 deployments live in data centres rather than workstations, which is why most NVIDIA A16 access in practice comes via the cloud.

Two tracked cloud providers currently offer NVIDIA A16: Vultr and Cherry Servers. Vultr has the cheaper rate at $0.47/hr.

NVIDIA A16に関するさらに多くのFAQ

Vultr vs チェリーサーバーズ - GPUプロバイダー比較 (4月 2026)

Vultrとチェリーサーバーズの直接比較。最大資金、利益分配、日次・総合ドローダウン規則、レバレッジ、取引可能資産、支払い頻度、支払い方法、取引許可、KYC制限を購入前に確認。データ更新日 4月 2026。

Vultr vs チェリーサーバーズ - GPUプロバイダー比較 (4月 2026)
Vultr
32のグローバルリージョンにまたがる高性能クラウドGPU
Visit Vultr
チェリーサーバーズ
24年のホスティング経験とハードウェアレベルの完全制御を備えたベアメタルGPUサーバー。
Visit チェリーサーバーズ
概要
Trustpilot評価 1.8 4.6
本社所在地 United States Lithuania
プロバイダータイプ マルチクラウド 該当なし
最適用途 AIトレーニング、推論、ビデオレンダリング、HPC、Stable Diffusion、ゲーム開発、生成AI、ファインチューニング、研究 AIトレーニング、推論、ファインチューニング、レンダリング、研究、HPC、生成AI、ディープラーニング
GPUハードウェア
GPUモデル A16、A40、L40S、A100 PCIe、GH200、A100 SXM、H100 SXM、B200、B300、MI300X、MI325X、MI355X A100、A40、A16、A10、A2、Tesla P4
最大VRAM(GB) 288 80
インスタンスあたり最大GPU数 16 2
インターコネクト NVLink PCIe
価格
開始価格($/時) $0.47/hr $0.16/hr
請求単位 時間単位 時間単位
スポット/プリエンプティブル はい いいえ
予約割引 該当なし 該当なし
無料クレジット 30日間で最大300ドルの無料クレジット なし
転送料金 標準(プランにより異なる) 該当なし
ストレージ 350 GB~61 TBのNVMe(含む)、ブロックストレージは月額0.10ドル/GB、S3互換オブジェクトストレージ NVMe SSD、Elastic Block Storage($0.071/GB/月)
インフラストラクチャ
リージョン 6大陸(アメリカ、ヨーロッパ、アジア、オーストラリア、アフリカ)にまたがる32リージョン リトアニア、オランダ、ドイツ、スウェーデン、米国、シンガポール(6拠点)
稼働率SLA 100% 99.97%
開発者体験
フレームワーク PyTorch、TensorFlow、CUDA、cuDNN、ROCm、Hugging Face、NVIDIA NGC PyTorch、TensorFlow、CUDA(ベアメタル—フルスタック制御)
Docker対応 はい はい
SSHアクセス はい はい
Jupyterノートブック はい いいえ
API / CLI はい はい
セットアップ時間 数分 分単位
Kubernetesサポート はい はい
ビジネス条件
最低利用期間 なし なし
コンプライアンス SOC 2+(HIPAA)、PCI、ISO 27001、ISO 27017、ISO 27018、ISO 20000-1、CSA STAR レベル1 ISO 27001、ISO 20000-1、GDPR、PCI DSS
Vultr チェリーサーバーズ

NVIDIA A16を探る