支持 Kubernetes 的云 GPU 提供商

租用 GPU 计算的 Kubernetes 支持意味着什么

当云 GPU 提供商宣传支持 Kubernetes 时，这意味着您可以将 GPU 工作负载调度到由 Kubernetes 管理的容器中，而不是手动将作业放置在单个租用的机器上。实际上，这依赖于一小堆组件协同工作：NVIDIA 设备插件（或 AMD 的等效插件），它将 GPU 作为可调度资源（如 nvidia.com/gpu）暴露给 kubelet；配置了 NVIDIA 容器工具包的容器运行时，使容器能够访问驱动程序；以及镜像内匹配的驱动和 CUDA 版本。许多提供商通过 NVIDIA GPU Operator 打包此功能，该操作自动在每个节点上安装驱动程序、设备插件和监控，因此您无需将驱动程序内置到自己的镜像中。

上面比较中的“是”可能意味着两种实质上不同的情况，了解您获得的是哪一种非常重要：

• 带 GPU 节点池的托管 Kubernetes — 提供商为您运行控制平面，并允许您添加支持 GPU 的工作节点；您主要编写清单并请求 GPU 资源。
• 可加入您自己集群的 GPU 实例 — 提供商提供原始 GPU 虚拟机或裸机，您自行安装和运营 Kubernetes（或类似 k3s 的发行版）。

两者都是真正的“支持 Kubernetes”，但运维负担截然不同。请查看上面的比较和提供商文档，确认控制平面是托管的还是由您负责。

为什么这对实际 GPU 工作流很重要

Kubernetes 在需要编排而非单个长期运行机器的 GPU 工作中体现其价值：

• 大规模推理服务 — 在服务后自动扩缩副本，无停机地推出新模型版本，并将多个较小模型高效打包到共享节点上。这是 Kubernetes 在 GPU 上最强有力的应用场景。
• 多节点分布式训练 — 框架和操作器（如 Kubeflow 训练操作器或 MPI/Volcano 风格的群调度）协调跨多个 GPU 节点的工作 Pod，当单机无法容纳模型或需要更快的实际训练时间时非常重要。
• 批处理和流水线作业 — 将微调运行、数据预处理或渲染排队为 Kubernetes 作业，支持重试和资源配额，而无需手动管理 SSH 会话。

对于单个交互式笔记本或单个 GPU 上的微调运行，Kubernetes 通常是您不需要的额外开销——使用普通租用实例配合 SSH 或 Jupyter 端点更简单。一旦您有多个工作负载、多 GPU 或需要自动恢复和扩缩，Kubernetes 的价值就显现出来。

值得关注的 GPU 共享和调度功能

普通 Kubernetes 将 GPU 视为不可分割的整数资源：一个 Pod 获得一个或多个完整 GPU。如果您的推理模型未完全利用显卡，这将造成浪费。提供商和集群通过允许您多细粒度地切分 GPU 来区分自己：

• 时间片共享 — 设备插件将一个物理 GPU 宣传为多个可调度单元，允许多个 Pod 协作共享（无严格内存隔离）。
• 多实例 GPU (MIG) — 在安培及以后代数据中心显卡上支持，将一个 GPU 分割成硬件隔离的实例，拥有专用内存和计算分片。
• 多进程服务 (MPS) — 允许不同进程的内核并发运行于同一 GPU，开销低于时间片共享。

如果您计划将多个小型推理工作负载打包到更少的显卡上，请确认提供商支持上述哪种方式，因为这直接影响您实际需要租用多少 GPU。

权衡与承诺前需核实的事项

Kubernetes 增加了功能，但也增加了运维复杂性。请权衡这些与更简单的租用实例：

• 驱动和 CUDA 版本匹配 — 您的容器镜像中的 CUDA 工具包必须与节点上安装的驱动兼容。GPU Operator 减轻了这一痛点，但版本不匹配是 Pod 能调度但崩溃的最常见原因。
• 多节点训练的网络 — 分布式作业对带宽敏感。请关注高速互连（如 RDMA/InfiniBand 或快速节点间链路）以及提供商是否支持相关 CNI 和设备插件；普通 Pod 网络可能成为集体操作的瓶颈。
• 存储 — 训练和检查点需要 CSI 驱动和持久卷，最好由快速共享存储支持，Pod 可跨节点挂载。
• 抢占/可中断节点 — 如果您的工作负载能容忍驱逐，便宜的抢占式 GPU 节点与 Kubernetes 配合良好；确保集群能优雅处理节点排空和重新调度。
• 计费模式 — 无论 Pod 是否使用，您仍需为底层 GPU 节点付费，还可能有托管控制平面费用。空闲 GPU 节点是隐形成本；自动缩减节点池至零是缓解措施。

使用上述列表筛选支持 Kubernetes 的提供商，然后深入查看各自文档中的设备插件方法、GPU 共享选项、互连情况及控制平面是否托管。表格处理实时可用性和价格；此维度关注您租用 GPU 时能获得多少编排能力。

常见问题解答

Kubernetes 支持是否意味着 GPU 节点上已预装驱动？

通常是，但不总是。提供 NVIDIA GPU Operator 或预构建 GPU 节点镜像的提供商会为您安装驱动、容器工具包和设备插件。其他提供商则给您裸 GPU 节点，需自行安装。请确认适用的模式，以便知道您的镜像是否需要匹配预装驱动版本。

我能在 Kubernetes 上每个 GPU 运行多个工作负载吗？

默认不能——Kubernetes 会将完整 GPU 分配给 Pod。要共享显卡，您需要显式启用的功能，如时间片共享、MPS 或硬件 MIG 分区。请查看上面的比较，确认提供商是否支持这些功能，切勿假设可以在一块 GPU 上共置多个小模型。

单个 GPU 任务值得用 Kubernetes 吗？

通常不值得。对于一个笔记本、一个推理端点或一个微调运行，使用普通租用实例配合 SSH 或托管 Jupyter 更简单，避免集群开销。只有当您有多个并发工作负载、多 GPU 或多节点训练、自动扩缩推理或自动重试和发布需求时，Kubernetes 才体现价值。

在 Kubernetes 上进行多节点分布式训练应检查什么？

确认 GPU 节点间有高速互连（如 RDMA 或 InfiniBand）、支持群调度/队列调度以确保所有工作 Pod 同时启动、有适合您框架的训练操作器，以及用于数据集和检查点的快速共享存储。缺少这些，分布式作业要么因部分调度等待而停滞，要么因网络和存储瓶颈而非计算瓶颈而受限。