NVIDIA A16 full datasheet — the specs that matter for deep learning
答案
NVIDIA A16 is a 2021-generation Ampere card with 64 GB of GDDR6 memory and 800 GB/s bandwidth. Compute peaks at 72 FP16 TFLOPS and 18 FP32 TFLOPS; TDP sits at 250W.
The VRAM/bandwidth pairing is the defining feature for machine learning work — it determines what model sizes are accessible and how hard the card can be pushed during production inference. Power draw and cooling requirements mean most NVIDIA A16 deployments live in data centres rather than workstations, which is why most NVIDIA A16 access in practice comes via the cloud.
Two tracked cloud providers currently offer NVIDIA A16: Vultr and Cherry Servers. Vultr has the cheaper rate at $0.47/hr.
更多关于 NVIDIA A16 的常见问题
Vultr vs Cherry Servers - GPU提供商比较（四月 2026）
Vultr与Cherry Servers的正面比较。购买挑战前请查看最大资金、利润分成、每日及总体回撤规则、杠杆、可交易资产、支付频率、支付及提款方式、交易权限和KYC限制。数据更新于四月 2026。
|
Vultr
跨越32个全球区域的高性能云GPU
|
Cherry Servers
拥有24年托管经验和全硬件级控制的裸金属GPU服务器。
|
|
|---|---|---|
| 概览 | ||
| Trustpilot 评分 | 1.8 | 4.6 |
| 总部 | United States | Lithuania |
| 供应商类型 | 多云 | 不适用 |
| 适用场景 | 人工智能训练、推理、视频渲染、高性能计算、稳定扩散、游戏开发、生成式人工智能、微调、研究 | AI训练，推理，微调，渲染，研究，高性能计算，生成式AI，深度学习 |
| GPU硬件 | ||
| GPU 型号 | A16、A40、L40S、A100 PCIe、GH200、A100 SXM、H100 SXM、B200、B300、MI300X、MI325X、MI355X | A100，A40，A16，A10，A2，Tesla P4 |
| 最大显存 (GB) | 288 | 80 |
| 每实例最大 GPU 数 | 16 | 2 |
| 互联 | NVLink | PCIe |
| 定价 | ||
| 起始价格 ($/小时) | $0.47/hr | $0.16/hr |
| 计费粒度 | 按小时计费 | 每小时 |
| 竞价/可抢占 | 是 | 否 |
| 预留折扣 | 不适用 | 不适用 |
| 免费额度 | 最高300美元免费额度，期限30天 | 无 |
| 出站费用 | 标准（根据计划不同而异） | 不适用 |
| 存储 | 350 GB - 61 TB NVMe（包含），块存储每月0.10美元/GB，兼容S3的对象存储 | NVMe SSD，弹性块存储（$0.071/GB/月） |
| 基础设施 | ||
| 区域 | 覆盖6大洲32个区域（美洲、欧洲、亚洲、澳大利亚、非洲） | 立陶宛，荷兰，德国，瑞典，美国，新加坡（6个地点） |
| 正常运行时间 SLA | 100% | 99.97% |
| 开发者体验 | ||
| 框架 | PyTorch、TensorFlow、CUDA、cuDNN、ROCm、Hugging Face、NVIDIA NGC | PyTorch，TensorFlow，CUDA（裸金属 — 全栈控制） |
| Docker 支持 | 是 | 是 |
| SSH 访问 | 是 | 是 |
| Jupyter 笔记本 | 是 | 否 |
| API / 命令行界面 | 是 | 是 |
| 设置时间 | 分钟 | 分钟 |
| Kubernetes 支持 | 是 | 是 |
| 业务条款 | ||
| 最小承诺 | 无 | 无 |
| 合规性 | SOC 2+（HIPAA）、PCI、ISO 27001、ISO 27017、ISO 27018、ISO 20000-1、CSA STAR 1级 | ISO 27001，ISO 20000-1，GDPR，PCI DSS |
Vultr
Cherry Servers