NVIDIA · Hopper Architecture

Sewa NVIDIA H200 SXM di Cloud

Enhanced H100 with 141GB HBM3e memory and 43% more bandwidth. Ideal for models that need more VRAM than the H100 provides.

VRAM 141 GB HBM3e
Bandwidth 4,800 GB/s
FP16 990.0 TFLOPS
FP32 67.0 TFLOPS
TDP 700W
Arsitektur Hopper
Termurah On-Demand $2.05/hr
Rata-rata On-Demand $3.03/hr
Penyedia 3

Bandingkan Harga Cloud NVIDIA H200 SXM — 3 Penyedia

On-Demand

NVIDIA H200 SXM — On-Demand pricing
Penyedia Harga / GPU / jam Ketersediaan Catatan Aksi
Vast.ai United States $2.05/hr TERMURAH Available Marketplace avg Kunjungi Penyedia
DigitalOcean United States $3.44/hr Available HGX H200 Kunjungi Penyedia
RunPod United States $3.59/hr Available Secure Cloud Kunjungi Penyedia

Spot / Preemptible

NVIDIA H200 SXM — Spot / Preemptible pricing
Penyedia Harga / GPU / jam Ketersediaan Catatan Aksi
RunPod United States $3.59/hr TERMURAH Available Community Cloud Kunjungi Penyedia

Harga terakhir diverifikasi: April 13, 2026

Spesifikasi Teknis NVIDIA H200 SXM

Produsen NVIDIA
Arsitektur Hopper
VRAM 141 GB HBM3e
Bandwidth 4,800 GB/s
FP16 (Tensor) 990.0 TFLOPS
FP32 67.0 TFLOPS
TDP 700W
Tahun Rilis 2024
Segmen Pusat data
Jenis Memori HBM3e

Terbaik Untuk

Large model training inference for 70B+ parameter models

Pertanyaan yang Sering Diajukan

Harga per jam NVIDIA H200 SXM — berapa yang harus saya anggarkan?

Menurut snapshot July 15, 2026 kami, instance cloud NVIDIA H200 SXM mulai dari $2.05 per jam, dengan Vast.ai menawarkan tarif on-demand termurah di antara penyedia 3 yang kami pantau. Harga spot (preemptible) pada cloud yang mendukung mulai dari $3.59 per jam — diskon sekitar up to 60% dari on-demand, yang membuat pelatihan singkat dan pekerjaan checkpointable jauh lebih murah.

Harga reserved/komitmen memotong tarif lebih jauh sebesar up to 40%, dengan konsekuensi mengunci jam atau bulan kapasitas di muka. Untuk sebagian besar tim AI, titik manisnya adalah spot untuk fine-tuning semalam dan on-demand untuk notebook interaktif atau layanan real-time dengan latensi rendah.

Get NVIDIA H200 SXM cloud access from Vast.ai, DigitalOcean, or RunPod. Live pricing, fast provisioning, competitive rates.

Arsitektur dan memori NVIDIA H200 SXM — pembahasan mendalam

Lembar data NVIDIA H200 SXM menunjukkan kartu kelas Hopper dengan 141 GB memori HBM3e, bandwidth memori 4,800 GB/s, komputasi FP16 990 TFLOPS, komputasi FP32 67 TFLOPS, dan thermal envelope 700W. Kartu ini mencapai pasar pada 2024.

Spesifikasi tersebut membuatnya mampu menangani seluruh tumpukan AI modern: pra-pelatihan model berukuran sedang, penyetelan sebagian besar LLM, menjalankan penyajian waktu nyata produksi pada ukuran batch yang berguna, dan mempercepat beban kerja difusi / generasi gambar.

Spin up NVIDIA H200 SXM on Vast.ai for $2.05/hr, with DigitalOcean and RunPod as strong alternatives — compare and deploy in minutes.

Apakah NVIDIA H200 SXM lebih cepat dari A100 untuk fine-tuning?

NVIDIA H200 SXM adalah kartu Hopper yang menawarkan 990 TFLOPS FP16 dan 67 TFLOPS FP32 bersama dengan 4,800 GB/s bandwidth memori. Itu cukup komputasi untuk menangani pelatihan model modern dan beban kerja penyajian waktu nyata dalam skala serius.

Benchmark menunjukkan NVIDIA H200 SXM tampil sangat baik pada model gaya transformer di mana tensor core dimaksimalkan oleh MatMul besar. Model difusi, ucapan, dan beban kerja visi juga melihat percepatan kuat dibanding generasi lama. Untuk penyajian produksi sensitif latensi, NVIDIA H200 SXM biasanya mencapai target token per detik pada model bahasa besar jauh di atas ambang 30-50 tok/s yang diinginkan sebagian besar produk.

Spin up NVIDIA H200 SXM on Vast.ai for $2.05/hr, with DigitalOcean and RunPod as strong alternatives — compare and deploy in minutes.

Siapa yang memiliki NVIDIA H200 SXM dalam stok tanpa daftar tunggu?

Daftar singkat penyedia yang menyediakan NVIDIA H200 SXM: DigitalOcean, RunPod, Vast.ai. Kami melacak 3 secara total. Tarif on-demand dengan harga terbaik ada di Vast.ai ($2.05 per jam), dan tarif spot dengan harga terbaik ada di RunPod ($3.59 per jam).

Saat mengevaluasi salah satunya, jangan hanya membandingkan harga — periksa cakupan regional, kepatuhan (SOC 2, HIPAA, GDPR), interkoneksi multi-GPU, dan harga sebenarnya setelah biaya keluar diperhitungkan. Tarif per jam yang murah bisa cepat hilang begitu Anda memindahkan hasil pelatihan dari jaringan penyedia.

Spin up NVIDIA H200 SXM on Vast.ai for $2.05/hr, with DigitalOcean and RunPod as strong alternatives — compare and deploy in minutes.

Apakah NVIDIA H200 SXM berlebihan untuk model kecil?

NVIDIA H200 SXM paling baik untuk beban kerja di mana VRAM 141 GB dan tensor core Hopper-nya cocok dengan baik: Large model training, inference for 70B+ parameter models.

Jika beban kerja Anda membutuhkan memori yang jauh lebih besar (misalnya, pelatihan model frontier dari awal), NVIDIA H200 SXM terlalu kecil dan Anda akan menginginkan kartu kelas H100/H200/B200. Jika beban kerja Anda membutuhkan lebih sedikit (misalnya, penyajian skala kecil pada model 7 miliar parameter), kartu yang lebih murah seperti L4 atau RTX 4090 mungkin lebih efisien secara biaya. Untuk rentang tengah, NVIDIA H200 SXM biasanya pilihan yang masuk akal.

Rent NVIDIA H200 SXM today from Vast.ai, DigitalOcean, or RunPod — compare live pricing and spin up in minutes.

Bandingkan dengan GPU Lain

Lihat bagaimana NVIDIA H200 SXM dibandingkan dengan GPU cloud populer lainnya dalam spesifikasi, harga, dan ketersediaan.