GPU 型号指南

按显存

按显存容量筛选云GPU，范围从12 GB到288 GB以上。

<- 返回 GPU 指南分类

本分类内

所有显存至少为12 GB的云端GPU——运行现代小型到中型大型语言模型、图像生成和大多数微调任务的最低要求。

141 GB及以上显存 — H200级及以上。单节点运行Llama-3.1 405B或DeepSeek-V3的最低要求。

16 GB及以上显存的云端GPU——适合SDXL推理、7B-13B模型微调及大多数生产推理工作负载。

192 GB以上显存 — Blackwell级和MI300X。每个GPU的最大设备容量，适用于万亿参数级别的工作负载。

具有24 GB及以上显存的GPU支持13B-30B模型推理、更大的批处理大小和更长的上下文窗口。

256 GB+ 显存 — 前沿AI训练领域。MI325X、MI350X、MI355X、B300、GB200。

288 GB以上显存——当今单GPU显存容量的绝对顶级水平。

配备32 GB及以上显存的GPU——适合严肃训练和30B+模型微调的入门选择，无需分片。

48 GB及以上显存是单GPU微调30B-70B模型和生产多租户推理的理想选择。

64 GB以上显存 — 适用于高端专业工作负载和大型数据中心级GPU。

80 GB以上显存是前沿AI训练的默认配置（A100 80GB、H100、H200、B200、MI300X）。逐一对比所有选项。

96 GB及以上显存——适用于70B及以上模型的训练，无需分片，并支持最大开放模型的多GPU推理。