按功能
- 可用 12 指南
- 打开指南查看匹配的提供商
- 使用提供商卡上的比较功能建立候选列表
提供API和CLI管理的云GPU服务商
API或CLI接口允许您以编程方式配置、管理和关闭GPU实例——这对于MLOps流水线、自动化训练工作流和CI/CD集成至关重要。本指南列出了提供基础设施管理API或CLI工具的云GPU服务商。
支持 Docker 和自定义镜像的云 GPU 提供商
Docker 支持允许您携带预装框架、CUDA 版本和依赖项的自定义环境，确保开发与生产环境的一致性。自定义 Docker 镜像消除了环境设置时间，并支持机器学习工作流的 CI/CD 集成。本指南列出了支持 Docker 容器和自定义镜像部署的云 GPU 提供商。
支持 Jupyter Notebook 的云 GPU 提供商
Jupyter Notebook 提供了一个交互式开发环境，广泛应用于数据科学和机器学习研究。在云 GPU 实例上预配置 Jupyter，能让您无需设置开销即可立即开始实验。本指南列出了包含内置 Jupyter Notebook 支持的云 GPU 提供商。
支持 Kubernetes 的云 GPU 提供商
Kubernetes 已成为大规模编排机器学习训练和推理工作负载的标准。支持 GPU 的 Kubernetes 集群能够实现自动调度、资源管理，并与 Kubeflow 和 Ray 等 MLOps 工具集成。本指南列出了提供托管 Kubernetes 支持或支持 GPU 的 Kubernetes 集群以进行生产 AI 部署的云...
支持多节点GPU集群的云GPU提供商
训练超出单节点内存容量的模型需要具备高速节点间网络的多节点GPU集群。多节点支持使得预训练大型语言模型和其他计算密集型工作负载能够扩展到数十甚至数百个GPU。此指南列出了支持多节点训练配置的云GPU提供商。
具有 NVLink 或 InfiniBand 的云 GPU 提供商
高带宽的 GPU 互连技术，如 NVLink（最高 900 GB/s）和 InfiniBand（最高 400 Gb/s），对于高效的多 GPU 和多节点训练至关重要。没有快速的互连，梯度同步会成为分布式训练的瓶颈，显著降低扩展效率。本指南列出了提供 NVLink 或 InfiniBand 连接的 GPU 实例提供商。
提供按秒计费的云GPU服务商
按秒计费确保您只为实际使用的计算时间付费，这对于短期实验、迭代开发和几分钟内完成的推理任务尤其有价值。与按小时计费相比，按秒计费的精度可以在典型的开发工作流程中节省30-50%的费用。本指南列出了提供按秒或低于一分钟计费的云GPU服务商。
具有持久存储的云GPU提供商
持久存储确保您的数据集、模型检查点和训练输出在实例重启和关闭后依然保留。没有持久存储，每次启动新的GPU实例时都需要重新上传数据。本指南列出了提供附加到GPU实例的持久块存储或网络存储的云GPU提供商。
具备无服务器GPU推理的云GPU提供商
无服务器GPU通过在不使用时自动将推理端点缩减到零，消除空闲成本，并在请求到达时按需启动GPU实例。这种按请求付费的模式可以将具有可变或突发流量的应用程序的推理成本降低80-95%。本指南列出了支持无服务器GPU部署的云GPU提供商。
提供抢占式/可中断实例的云GPU供应商
抢占式或可中断GPU实例相比按需定价可节省50-90%，但在高需求期间可能会被中断。它们非常适合容错性强的工作负载，如带检查点的分布式训练、批量推理和超参数搜索。本指南列出了提供抢占式定价的云GPU供应商，帮助您显著降低GPU计算成本。
提供 SSH 访问的云 GPU 服务商
SSH 访问让您能够对 GPU 实例进行完整的 root 级控制，允许您安装自定义软件、调试问题、管理文件以及运行长时间运行的进程。对于需要比基于网页的笔记本更多控制权限的高级用户来说，这是必不可少的。本指南列出了提供 GPU 实例直接 SSH 访问的云 GPU 服务商。
零出站费用的云GPU提供商
出站费用——即将数据从云端传输出去的收费——在导出模型权重、提供推理结果或在供应商之间移动数据集时，可能会增加显著的意外成本。提供零出站费用的供应商提供可预测的定价，使采用多云策略更加容易。本指南重点介绍不收取出站数据传输费用的GPU云提供商。