具有持久存储的云GPU提供商

当你租用云GPU时，持久存储意味着什么

默认情况下，租用的GPU实例会为你提供一个随实例生命周期而生死的工作磁盘。只要你停止、销毁或被抢占下线，本地磁盘就会被清空，数据也随之消失。持久存储打破了这种耦合：它是一个存储卷，其生命周期独立于任何单个GPU实例，因此你的数据集、模型检查点、conda环境和缓存权重可以在关机后保存，并重新挂载到你启动的下一台机器上。上面比较中的各个提供商都提供某种形式的持久存储，但实现方式差异较大，因此“是”只是答案的开始。

实际上，持久存储主要有两种形式。第一种是网络卷（块存储或文件系统存储），你可以通过提供商的内部网络挂载，并附加到你启动的任何GPU节点。第二种是对象存储（兼容S3的桶），你在作业开始时拉取数据，完成后推送结果回去。一些提供商还会在快速的本地NVMe池上保留一个持久的主目录，该目录与计算生命周期解耦。它们在吞吐量、延迟以及如何集成到训练循环中表现各异。

为什么这对真实GPU工作流程很重要

持久存储值得关注的原因是GPU时间是昂贵资源，你不希望浪费时间重新下载和准备数据。具体来说，它改变了以下工作流程：

• 长时间训练和微调运行每几百步写一次检查点。如果这些检查点只存在于临时磁盘上，节点崩溃或被抢占意味着必须从零开始。持久存储让你可以在新的GPU上从最后一个检查点恢复。
• 抢占式和可中断实例变得真正可用。廉价抢占式GPU的整个经济模型依赖于能够丢失节点而不丢失工作——这只有在你的状态存储在比实例生命周期更长的卷上才成立。
• 大型数据集（数百GB的图像、视频或文本语料库）每次启动都重新准备非常痛苦。持久卷保存了准备好的分片数据，使每次新会话能在几秒内启动，而不是经历漫长的复制过程。
• 迭代开发受益于稳定的主目录：你的环境、已安装的软件包、缓存的Hugging Face权重和笔记本明天依然存在，无需从容器镜像重新构建。
• 推理服务可以将模型权重保存在附加存储上，使扩展的副本快速加载，而不是冷启动时从远程桶拉取数十GB数据。

需要权衡的取舍

持久存储并非没有成本或摩擦，提供商之间的差异通常体现在这些权衡上，而不是功能是否存在。

• 闲置时也要付费。关闭GPU时计算费用停止，但持久卷无论是否附加GPU都会按容量（通常按GB-月计费）收费。项目间留下的大卷会成为持续的隐形开销。
• 区域和可用区绑定。网络卷通常只存在于一个区域或数据中心。如果你需要的GPU类型只在另一区域可用，可能无法在那里挂载你的卷——迁移可能产生出口流量费或复制时间。
• 吞吐量和延迟差异大。本地NVMe临时存储可提供每秒数GB速度；网络文件系统可能远慢，可能成为数据密集型训练循环的瓶颈。对于高吞吐量数据管道，这个差距比容量更重要。
• 并发限制。一些块卷一次只能附加到一个实例，而共享文件系统和对象存储允许多个读者。多节点训练通常需要共享文件系统或对象存储，而非单一附加块设备。
• 出口和传输费用。同一区域内读取通常便宜，但将数据拉到你的笔记本或其他云上可能产生高额出口费用，远超存储成本。

上面比较中需要检查的内容

当你将上面列表视为支持持久存储的提供商候选时，深入了解细节，而不是简单地把“是”视为统一：

1. 卷类型和吞吐量——是块存储、网络文件系统还是对象存储，在训练负载下实际的读写带宽是多少？
2. 定价模式——按GB-月计费，且是否在无GPU附加时继续收费。
3. 区域耦合——卷能否附加到你实际需要的GPU类型和区域，包括抢占容量？
4. 容量和限制——最大卷大小、快照支持，以及是否能跨多个节点共享。
5. 出口条款——数据迁出费用，因为这往往决定总开销，超过存储本身的费用。

将这些答案与工作负载匹配：单次长时间微调需要可靠的检查点持久性和恢复；重数据管道需要原始吞吐量；无服务器或自动扩缩推理集群需要快速共享读取热权重。表中合适的提供商是其持久存储形态符合你主要模式的那个。

常见问题

停止GPU实例后，持久存储会保留我的数据吗？

会的——这正是它的目的。持久卷与计算实例解耦，停止或销毁GPU节点不会影响卷及其内容。你可以将它重新挂载到下一台实例。只需记住，卷本身通常在存在期间会持续产生容量费用，即使没有GPU运行。

持久存储包含在GPU租用价格内吗？

通常不包含。GPU的小时费率覆盖计算和基础临时磁盘，而持久卷按容量单独计费，通常是每GB每月。估算总成本时务必将存储作为单独项目，并查看上方实时比较了解各提供商的定价。

我可以在廉价抢占式或可中断GPU上使用持久存储吗？

这是最好的理由之一。因为卷的生命周期超过任何单个节点，你可以被抢占下线而不丢失数据，并在新机器上从最后检查点恢复。确认提供商允许在同一区域的抢占容量上挂载该卷。

持久存储和像S3这样的对象存储有什么区别？

对象存储是一种实现数据持久化的方式，但你通过API以桶和对象形式读写它，而不是像本地磁盘那样挂载。持久块存储或文件系统卷表现得像附加驱动器，代码可以直接读取。对象存储可大规模扩展并可被多个节点共享；挂载卷通常为活跃训练循环提供更低延迟。许多工作流程两者兼用——桶用于冷归档，挂载卷用于活跃工作集。