NVIDIA · Hopper Architecture

Sewa NVIDIA H200 SXM di Awan

Enhanced H100 with 141GB HBM3e memory and 43% more bandwidth. Ideal for models that need more VRAM than the H100 provides.

VRAM 141 GB HBM3e
Lebar Jalur 4,800 GB/s
FP16 990.0 TFLOPS
FP32 67.0 TFLOPS
TDP 700W
Seni Bina Hopper
Termurah Atas Permintaan $2.05/hr
Purata Atas Permintaan $3.03/hr
Penyedia 3

Bandingkan Harga Awan NVIDIA H200 SXM — 3 Penyedia

Atas Permintaan

NVIDIA H200 SXM — Atas Permintaan pricing
Penyedia Harga / GPU / jam Ketersediaan Nota Tindakan
Vast.ai United States $2.05/hr PALING MURAH Available Marketplace avg Lawati Penyedia
DigitalOcean United States $3.44/hr Available HGX H200 Lawati Penyedia
RunPod United States $3.59/hr Available Secure Cloud Lawati Penyedia

Spot / Boleh Dihentikan

NVIDIA H200 SXM — Spot / Boleh Dihentikan pricing
Penyedia Harga / GPU / jam Ketersediaan Nota Tindakan
RunPod United States $3.59/hr PALING MURAH Available Community Cloud Lawati Penyedia

Harga disahkan terakhir: April 13, 2026

Spesifikasi Teknikal NVIDIA H200 SXM

Pengeluar NVIDIA
Seni Bina Hopper
VRAM 141 GB HBM3e
Lebar Jalur 4,800 GB/s
FP16 (Tensor) 990.0 TFLOPS
FP32 67.0 TFLOPS
TDP 700W
Tahun Keluaran 2024
Segmen Pusat data
Jenis Memori HBM3e

Terbaik Untuk

Large model training inference for 70B+ parameter models

Soalan Lazim

Harga sejam NVIDIA H200 SXM — berapa yang perlu saya bajetkan?

Menurut snapshot July 15, 2026 kami, instans awan NVIDIA H200 SXM bermula dari $2.05 sejam, dengan Vast.ai menawarkan kadar atas permintaan terendah di antara 3 penyedia yang kami jejak. Harga spot (preemptible) pada awan yang menyokong bermula dari $3.59 sejam — diskaun kira-kira up to 60% daripada atas permintaan, menjadikan larian penalaan pendek dan kerja checkpointable jauh lebih murah.

Harga terpelihara/komitmen mengurangkan kadar lebih jauh sebanyak up to 40%, dengan kos mengunci jam atau bulan kapasiti terlebih dahulu. Untuk kebanyakan pasukan AI, titik manis adalah spot untuk penalaan malam dan atas permintaan untuk buku nota interaktif atau perkhidmatan masa nyata berlatensi rendah.

Get NVIDIA H200 SXM cloud access from Vast.ai, DigitalOcean, or RunPod. Live pricing, fast provisioning, competitive rates.

Seni bina dan memori NVIDIA H200 SXM — kajian mendalam

Lembaran data NVIDIA H200 SXM menunjukkan kad kelas Hopper dengan 141 GB memori HBM3e, lebar jalur memori 4,800 GB/s, 990 TFLOPS pengiraan FP16, 67 TFLOPS pengiraan FP32, dan amplop terma 700W. Ia sampai ke pasaran pada 2024.

Spesifikasi ini menjadikannya mampu mengendalikan keseluruhan tumpukan AI moden: pra-latihan model sederhana, penalaan halus kebanyakan LLM, menjalankan perkhidmatan masa nyata pengeluaran pada saiz kelompok berguna, dan mempercepatkan beban kerja penyebaran / penjanaan imej.

Spin up NVIDIA H200 SXM on Vast.ai for $2.05/hr, with DigitalOcean and RunPod as strong alternatives — compare and deploy in minutes.

Adakah NVIDIA H200 SXM lebih pantas daripada A100 untuk penalaan halus?

NVIDIA H200 SXM adalah kad Hopper yang menawarkan 990 TFLOPS FP16 dan 67 TFLOPS FP32 bersama dengan 4,800 GB/s lebar jalur memori. Itu cukup pengiraan untuk mengendalikan latihan model moden dan beban kerja penyajian masa nyata pada skala serius.

Penanda aras menunjukkan NVIDIA H200 SXM berprestasi sangat baik pada model gaya transformer di mana teras tensor disaturkan oleh MatMul besar. Model difusi, ucapan, dan beban kerja visi juga melihat peningkatan kelajuan yang kuat berbanding generasi lama. Untuk penyajian masa nyata yang sensitif latensi, NVIDIA H200 SXM biasanya mencapai kadar token sesaat sasaran pada model bahasa besar jauh melebihi ambang 30-50 tok/s yang disasarkan oleh kebanyakan produk.

Spin up NVIDIA H200 SXM on Vast.ai for $2.05/hr, with DigitalOcean and RunPod as strong alternatives — compare and deploy in minutes.

Siapa yang mempunyai NVIDIA H200 SXM dalam stok tanpa senarai menunggu?

Senarai pendek penyedia yang membawa NVIDIA H200 SXM: DigitalOcean, RunPod, Vast.ai. Kami mengesan 3 secara keseluruhan. Kadar on-demand dengan harga terbaik adalah di Vast.ai ($2.05 setiap jam), dan kadar spot dengan harga terbaik adalah di RunPod ($3.59 setiap jam).

Apabila menilai mana-mana daripada mereka, jangan hanya bandingkan harga — periksa liputan serantau, pematuhan (SOC 2, HIPAA, GDPR), sambungan antara GPU, dan harga sebenar yang direalisasikan setelah yuran egress diambil kira. Kadar sejam yang murah boleh hilang dengan cepat apabila anda memindahkan output larian latihan keluar dari rangkaian penyedia.

Spin up NVIDIA H200 SXM on Vast.ai for $2.05/hr, with DigitalOcean and RunPod as strong alternatives — compare and deploy in minutes.

Adakah NVIDIA H200 SXM terlalu berlebihan untuk model kecil?

NVIDIA H200 SXM paling sesuai untuk beban kerja di mana 141 GB VRAM dan Hopper teras tensornya sepadan dengan baik: Large model training, inference for 70B+ parameter models.

Jika beban kerja anda memerlukan memori yang jauh lebih banyak (contohnya, latihan model frontier dari awal), NVIDIA H200 SXM adalah terlalu kecil dan anda perlu kad kelas H100/H200/B200. Jika beban kerja anda memerlukan kurang (contohnya, perkhidmatan skala kecil pada model 7B-parameter), kad yang lebih murah seperti L4 atau RTX 4090 mungkin lebih menjimatkan kos. Untuk julat pertengahan, NVIDIA H200 SXM biasanya pilihan yang munasabah.

Rent NVIDIA H200 SXM today from Vast.ai, DigitalOcean, or RunPod — compare live pricing and spin up in minutes.

Bandingkan dengan GPU Lain

Lihat bagaimana NVIDIA H200 SXM dibandingkan dengan GPU awan popular lain dari segi spesifikasi, harga, dan ketersediaan.