スポット / プリエンプティブルインスタンス対応クラウドGPUプロバイダー

スポットおよびプリエンプティブルGPUインスタンスとは何か

スポットまたはプリエンプティブルGPUインスタンスは、プロバイダーの余剰キャパシティプールから大幅な割引価格でレンタルされますが、重要な条件があります：プロバイダーはいつでもほとんど警告なしにマシンを回収できることです。ハードウェアは同じGPUのオンデマンド版と同一で、同じVRAM、同じテンソルコア、同じインターコネクトを備えていますが、利用可能性に関する契約が異なります。割り込み可能であるために安価な計算リソースを購入しているのです。上記リストのスポットまたはプリエンプティブル容量を提供するとマークされたすべてのプロバイダーは、このトレードオフを何らかの形で提示しており、名称はスポット、プリエンプティブル、インタラプティブル、コミュニティ、またはサープラスインスタンスなど異なりますが、基本的な考え方は同じです。

割引が存在する理由は、データセンターが100％の稼働率で運用されることが稀だからです。アイドル状態のGPUは収益を生まないため、プロバイダーはその余剰を標準料金の一部で販売し、フルプライスの顧客が必要としたり、自身のスケジューリングニーズが変わった場合にはすぐに回収することを受け入れています。レンターにとって、割引は実際の節約ですが、保証されたオンデマンドノードにはない運用上の義務が伴います。

割り込み可能価格が実際のワークロードで重要な理由

スポット容量を理解する価値がある理由は、GPUレンタルが高価であり、割り込み可能インスタンスの割引が経済的に実行可能なプロジェクトを変えるほど大きいことが多いためです。問題は、すべてのワークロードが途中で停止されることを許容しないことです。決定要因はほぼ常にジョブがどれだけうまくチェックポイントを取り再開できるかです。

• 適合例：数分ごとに耐久性のあるストレージにチェックポイントを保存する長時間のトレーニングやファインチューニング、大規模なバッチ推論や埋め込みジョブ、オフラインレンダリング、個々の試行が独立したハイパーパラメータスイープ、そして障害耐性を前提に構築されたパイプライン。
• 不適合例：リアルタイムまたは低遅延推論でライブアプリケーションを提供する場合、保存されていない作業が失われるインタラクティブ開発セッション、そして1ノードが消失した際に正常に回復できない厳密に同期されたマルチGPUトレーニング。

考え方は単純です：インスタンスを失っても最後のチェックポイントからの数分だけの損失なら、スポットはほぼ常に正しい選択です。リクエストや顧客、数時間分の未保存状態を失うなら、オンデマンドのプレミアム料金は安心料として支払う価値があります。

検討すべきトレードオフ

割り込みは明らかなコストですが、それだけではありません。この観点でプロバイダーを比較する際は全体像を把握してください：

• 回収動作：一部のプロバイダーは短い終了通知（通常数分）を提供し、ジョブが状態を保存して正常終了できるようにします。その他は即座にマシンを回収します。猶予期間は最終チェックポイントをトリガーできるため非常に価値があります。
• 可用性の変動：スポットプールは変動します。希望するGPUが希望価格で利用できない期間があり、最も需要の高いアクセラレータは古いまたは人気の低いカードよりも積極的に回収されます。
• インスタンスの寿命を超えるストレージ：チェックポイントがインスタンスのローカルディスクのみにある場合、割り込みで消失します。スポットはデータとチェックポイントがノードを超えて持続する永続的またはネットワークストレージにある場合にのみ安全に機能します。
• 再起動の手間：回収後はキャパシティの再取得、コンテナイメージとデータの再プル、再開が必要です。コールドスタート時間やイメージサイズが実効スループットとコストに影響します。

スポット容量をレンタルする前に確認すべきこと

同じ用語でもプロバイダーによって意味が異なるため、上記比較を使って詳細を確認し、前提としないでください。割り込み可能インスタンスにワークロードを割り当てる前に、以下のチェックリストを確認してください：

• 通知期間：プロバイダーは回収前に警告しますか？猶予期間はどのくらいですか？30～120秒でもチェックポイント設計に影響します。
• 回収の頻度：スポットマシンは真のキャパシティ圧力時のみ回収されますか？それとも定期的なリバランスでも？頻繁で低圧力の回収は節約効果を減らします。
• チェックポイントの仕組み：チェックポイントを耐久性のあるオブジェクトストレージやネットワークストレージに安価に書き込めますか？取得のためのエグレスは妥当ですか？これは安全なスポット利用の最重要要素です。
• 自動再取得：キャパシティが戻ったときにプラットフォームが自動的にジョブを再キューし再起動しますか？それとも自分でスクリプトを書く必要がありますか？管理された再キューはスポット利用を大幅に簡単にします。
• マルチGPUおよびマルチノードの挙動：複数GPUが必要な場合、1つ失うとジョブ全体が停止することがあります。プロバイダーがグループを原子単位で保持できるか、単一GPUスポットのみかを確認してください。
• 課金単位：秒単位または分単位の課金は、実際に使用した時間だけ支払うスポットに適しています。切り上げ課金は損になります。

多くのチームが採用する実用的なパターンはハイブリッド構成です：スループット重視でチェックポイント可能な作業の大部分をスポットで実行し、遅延に敏感または状態を持つ作業は小規模なオンデマンドでカバーします。この組み合わせで節約の大部分を得つつ、割り込みに耐えられないパイプライン部分を保護します。

よくある質問

スポットGPUインスタンスが回収されたら作業は失われますか？

回収時にインスタンス上にのみ存在する状態（未保存の進捗やローカルディスク上のデータ）は失われます。耐久性のあるストレージやネットワークストレージに既に書き込んだ作業は失われません。これが頻繁に耐久ストレージへチェックポイントを取ることがスポット利用の基本であり、適切なチェックポイントがあれば最後の保存から数分分の損失に抑えられます。

スポットとオンデマンドインスタンスでGPUハードウェアは異なりますか？

いいえ。スポットとオンデマンドは同じ物理ハードウェアから提供されるため、GPU、VRAM、テンソルコア、インターコネクトは同一です。違いは利用可能性と価格に関する契約のみで、スポットは安価ですが割り込み可能、オンデマンドは高価ですが回収されません。保証された継続性に対して支払っているのであり、より高速なシリコンに対してではありません。

スポットインスタンスはオンデマンドと比べてどれくらい節約できますか？

割引は通常かなり大きく、割り込み可能容量を選ぶ主な理由ですが、正確な数字はプロバイダー、GPUモデル、リージョン、需要により異なり常に変動します。単一の数値に頼らず、上記のライブ比較で希望GPUの現在のスポットとオンデマンドの価格差を確認してください。

どのワークロードをスポットインスタンスで実行すべきでないですか？

突然の消失に耐えられないものはスポットを避けてください：本番アプリケーションのライブ低遅延推論、未保存作業を抱えるインタラクティブセッション、1ノード消失で回復できない密結合マルチGPUジョブ。これらはオンデマンドのプレミアム料金を払う価値があります。チェックポイントをきちんと取り再起動を許容するトレーニング、ファインチューニング、バッチ推論、レンダリング、スイープはスポットに適しています。