NVIDIA RTX 3090搭載のおすすめクラウドGPUプロバイダー

RTX 3090の実態と、なぜ今もクラウドGPU群に登場し続けるのか

NVIDIA GeForce RTX 3090は2020年にAmpere世代のフラッグシップとしてGA102ダイ上に登場しました。大容量のコンシューマー向けGPUに、384ビットバス上の24 GBのGDDR6Xメモリを搭載し、約936 GB/sのメモリ帯域幅を実現しています。この高VRAMと高帯域幅の組み合わせが、予算重視のクラウドGPU群での主力カードとなった理由であり、発売から数年経っても上記の比較に登場し続ける理由です。

Ampere世代のカードであるため、RTX 3090は第3世代Tensorコアと第2世代RTコアを搭載しています。AI用途ではTensorコアが重要で、FP16およびBF16の混合精度演算を加速し、推論用にINT8やINT4もサポートします。また、Ampereの構造化スパース機能にも対応し、対応モデルでのスループットを向上させます。FP8はサポートしておらず、これは後のHopperやAda Lovelace世代で導入されたため、FP8に特化したワークフローには適しません。

レンタル時に重要なスペック

• メモリ: 24 GB GDDR6X。レンタル時に最も重要な数字です。7B〜13Bパラメータ範囲の多くのモデルを量子化してファインチューニングや推論が可能で、ほとんどのレンダリングや科学的シーンも快適に扱えます。
• 帯域幅: 約936 GB/sで、大容量メモリプールをメモリ制約のある推論やトレーニングに十分供給します。
• 精度サポート: FP32、TF32、FP16、BF16、INT8、INT4 — FP8は非対応。Tensorコアが現代のMLで使われる低精度演算を加速します。
• インターコネクト: PCIe Gen 4で、2枚のカード間でNVLinkをオプションで利用可能。3090はNVLinkブリッジを備えた最後のGeForceカードで、2枚構成時にPCIe単独より高速なGPU間リンクを提供します。
• 電力・熱設計クラス: 350Wボードで、消費電力は大きめ。そのためホストは密集した8-wayノードよりも1〜2枚構成のインスタンスとして提供することが多いです。

実用上の注意点: RTX 3090はコンシューマーカードであり、NVIDIAのドライバーライセンス上、Aシリーズやプロフェッショナルカードのような大規模データセンター展開を想定していません。クラウドGPU群ではコミュニティやピアツーピア型マーケットプレイスでよく見られ、これが低価格の一因となっています。

適したワークロード

24 GBのバッファが最大の特徴です。8〜16 GBカードでは収まらないジョブを可能にし、データセンターアクセラレータよりもコストを抑えられます。主な適用例は以下の通りです。

• 小〜中規模モデルのファインチューニング（LoRA/QLoRA使用時）、パラメータ数は控えめでもオプティマイザ状態や適切なバッチサイズの余裕が欲しい場合。
• 量子化された7B〜13B言語モデルの推論や、ほとんどの拡散モデルやビジョンモデルの快適な推論。
• 3Dレンダリングとコンテンツ制作 — グラフィックス用設計のため、OptiX加速パストレーシングやBlender Cyclesなどのパイプラインが良好に動作し、大容量のテクスチャやジオメトリに24 GBが直接役立ちます。
• 実験、プロトタイピング、学習用途で、プレミアムな時間単価に縛られずに高性能GPUを使いたい場合。

小規模モデルや軽いノートブック実験には過剰性能であり、最先端の大規模トレーニングには力不足です。大規模モデルのスクラッチトレーニングやマルチノード分散トレーニングには、HBM搭載のデータセンターGPUとNVLink/NVSwitchファブリックが必要であり、3090の2枚NVLink制限とPCIeベースの拡張性は密集したマルチGPUクラスタには適しません。リアルタイムで高並列な大規模推論は、FP8対応かつコスト効率の高い新世代カードが一般的に優れています。

レンタルコストと入手状況の背景

価格帯ではRTX 3090は予算層に位置し、A100/H100クラスや新しいプロフェッショナルAdaカードよりもかなり安価で、同価格帯の多くの選択肢よりもVRAMが多いです。古いコンシューマーシリコンのため、供給は中断可能なスポットやコミュニティホストの容量が中心で、入手状況は変動しやすく、ホストがインスタンスを引き上げることもあります。正確かつ最新の時間単価や在庫状況は、上記のライブ比較を利用してください。需要に応じて価格は変動し、オンデマンドと中断可能オファリングで大きく異なります。

よくある質問

RTX 3090のVRAM容量は？LLMに十分？

24 GBのGDDR6Xを搭載しています。量子化（例：4ビットQLoRA）を用いれば、約13Bパラメータまでの多くのモデルの実行やファインチューニングが可能で、量子化推論も快適に行えます。それ以上の大規模モデルは複数カードか高VRAMのデータセンターGPUが必要です。

レンタル時にRTX 3090を2枚連結できる？

はい、3090は2枚間のNVLinkをサポートし、一部ホストはペア構成を提供しています。これによりPCIe単独より高速な2GPUジョブのリンクが可能です。ただしNVLinkはペア限定で、NVSwitchのような大規模ファブリックはなく、大規模分散トレーニングで使われる密集4〜8GPUノードにはスケールしません。

RTX 3090はFP8や最新の精度フォーマットをサポートしている？

いいえ。Ampere世代のため、FP32、TF32、FP16、BF16、INT8、INT4を第3世代Tensorコアでサポートし、構造化スパースも対応します。FP8は後のHopperやAda Lovelace世代で導入されたため、FP8に特化したワークフローには新しいGPUが必要です。

なぜRTX 3090はデータセンターGPUより安いのか？

2020年のコンシューマー向けグラフィックスカードで、HBMではなくGDDR6Xメモリを使用し、密集したデータセンター展開を想定していません。中断可能やコミュニティホストの容量が多いため、時間単価は低く抑えられていますが、可用性は予測しづらく、最新のHBMベースアクセラレータよりピークスループットは劣ります。