最佳 AI Inference 云GPU — May 2026

针对服务优化的云端GPU——每美元高吞吐量，低延迟，广泛的框架支持。

更新于五月 2026 显示 38 款 GPU 型号适合 inference

HBM3e CDNA 3 $2.00/hr

HBM3e Blackwell $1.99/hr

HBM3e Blackwell

HBM3 CDNA 3 $1.85/hr

HBM3e Hopper $2.05/hr

A100 SXM (80GB)

HBM2e Ampere $1.10/hr

GDDR6 Ampere $0.47/hr

GDDR6 Ada Lovelace $0.55/hr

GDDR6 Ada Lovelace

GDDR6 Ampere $0.30/hr

A100 SXM (40GB)

HBM2e Ampere $0.80/hr

HBM2e Ampere $0.25/hr

GDDR6 Ada Lovelace $0.39/hr

HBM2 Volta $0.13/hr

GDDR6 Turing $0.08/hr

GDDR6 Ampere $0.22/hr

GDDR5 Pascal $0.16/hr

GDDR6 Ada Lovelace $0.47/hr

GDDR6 Ampere $0.30/hr

GDDR6 Ada Lovelace

GDDR7 Blackwell $0.34/hr

GDDR6X Ada Lovelace $0.28/hr

GDDR6X Ampere $0.12/hr

GDDR7 Blackwell

GDDR6X Ada Lovelace

GDDR6X Ada Lovelace

GDDR7 Blackwell

GDDR6 Ada Lovelace

GDDR6X Ada Lovelace

GDDR6X Ada Lovelace

GDDR6 Ada Lovelace

MI350X 对比 MI325X 对比 B200 — 本指南精选

MI350X vs MI325X vs B200
	MI350X CDNA 4 · 288 GB	MI325X CDNA 3 · 256 GB	B200 布莱克韦尔 · 192 GB
规格
制造商	AMD	AMD	NVIDIA
架构	CDNA 4	CDNA 3	布莱克韦尔
显存	288 GB HBM3e	256 GB HBM3e	192 GB HBM3e
带宽	8,000 GB/s	6,000 GB/s	8,000 GB/s
FP16（张量）	1,800 TFLOPS	1,307 TFLOPS	2,250 TFLOPS
FP32	72 TFLOPS	163.4 TFLOPS	75 TFLOPS
热设计功耗	1000 W	1000 W	1000 W
发布年份	2025	2024	2024
细分市场	数据中心	数据中心	数据中心
云端价格
最便宜的按需	—	$2.00/hr	$1.99/hr
供应商	1	2	2