NVIDIA · Ampere Architecture

Sewa NVIDIA A40 di Cloud

Data center GPU for inference and visual computing. 48GB GDDR6 at reasonable cloud pricing.

VRAM 48 GB GDDR6
Bandwidth 696 GB/s
FP16 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Arsitektur Ampere
Termurah On-Demand $0.30/hr
Rata-rata On-Demand $0.74/hr
Penyedia 5

Bandingkan Harga Cloud NVIDIA A40 — 5 Penyedia

On-Demand

NVIDIA A40 — On-Demand pricing
Penyedia Harga / GPU / jam Ketersediaan Catatan Aksi
Vast.ai United States $0.30/hr TERMURAH Available Marketplace avg Kunjungi Penyedia
RunPod United States $0.44/hr Available Secure Cloud Kunjungi Penyedia
Massed Compute United States $0.51/hr Available Kunjungi Penyedia
Cherry Servers Lithuania $0.74/hr Available Bare metal Kunjungi Penyedia
Vultr United States $1.71/hr Available Kunjungi Penyedia

Spot / Preemptible

NVIDIA A40 — Spot / Preemptible pricing
Penyedia Harga / GPU / jam Ketersediaan Catatan Aksi
RunPod United States $0.35/hr TERMURAH Available Community Cloud Kunjungi Penyedia

Harga terakhir diverifikasi: April 13, 2026

Spesifikasi Teknis NVIDIA A40

Produsen NVIDIA
Arsitektur Ampere
VRAM 48 GB GDDR6
Bandwidth 696 GB/s
FP16 (Tensor) 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Tahun Rilis 2020
Segmen Pusat data
Jenis Memori GDDR6

Terbaik Untuk

Inference rendering virtual workstations

Pertanyaan yang Sering Diajukan

NVIDIA A40 reserved vs on-demand — mana yang lebih hemat?

Saat menentukan harga VM cloud NVIDIA A40, mulai dengan tarif on-demand dasar $0.30 per jam (ditawarkan oleh Vast.ai) dan tambahkan diskon di atasnya. Jika pekerjaan dapat checkpoint, spot menurunkan tarif menjadi $0.35 per jam di RunPod — sekitar up to 60% lebih murah dari on-demand.

Layanan jangka panjang beralih ke tingkat reserved untuk penghematan tambahan sekitar up to 40%. Pasar dengan 5 penyedia memastikan harga kompetitif, tetapi ketersediaan regional dan jumlah GPU per node lebih memengaruhi biaya nyata daripada tarif utama.

Launch a NVIDIA A40 instance on Vast.ai from $0.30/hr — or check RunPod and Massed Compute for alternative regions and availability.

Bagaimana perbandingan NVIDIA A40 dalam spesifikasi mentah dengan A100 dan H100?

NVIDIA A40 adalah kartu Ampere dengan 48 GB memori GDDR6, 696 GB/s bandwidth, dan 150 TFLOPS komputasi FP16. Kartu ini diluncurkan pada 2020 dan menggunakan daya hingga 300W.

Dalam beban kerja nyata, subsistem memori biasanya merupakan faktor paling penting: 696 GB/s bandwidth cukup untuk menopang sebagian besar tugas decoding transformer tanpa membuat unit komputasi kekurangan data, sementara 48 GB VRAM mendukung berbagai ukuran model, terutama setelah penerapan kuantisasi.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Apakah NVIDIA A40 cukup baik untuk inferensi produksi?

NVIDIA A40 mendorong 150 TFLOPS FP16, 37.4 TFLOPS FP32, dan memasoknya dari 48 GB VRAM dengan 696 GB/s.

Benchmark: Pelatihan LLM dengan presisi campuran melihat pemanfaatan FLOPS hampir puncak pada ukuran batch yang muat di VRAM; inferensi LLM biasanya dalam 5-15% dari batas teoretis bandwidth pada decoding autoregresif; model difusi menunjukkan lonjakan terbesar dibanding akselerator lama, di mana kernel perhatian yang lebih cepat bertumpuk dengan keuntungan komputasi mentah.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Di mana pengembang dapat menjalankan beban kerja NVIDIA A40 tanpa biaya egress?

5 penyedia yang menawarkan NVIDIA A40 hari ini: Cherry Servers, Massed Compute, RunPod, Vast.ai, Vultr. Sumber on-demand termurah adalah Vast.ai pada $0.30 per jam; harga spot terendah adalah $0.35 per jam pada RunPod.

Faktor seleksi dunia nyata meliputi: teknologi interkoneksi (NVLink vs. PCIe vs. InfiniBand), ketersediaan multi-node, penagihan per detik vs. per jam, biaya keluar, dan cakupan regional. Penyedia murah dengan biaya keluar tinggi bisa lebih mahal daripada penyedia yang lebih mahal dengan keluar gratis setelah Anda memperhitungkan perpindahan data.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Beban kerja yang direkomendasikan untuk NVIDIA A40

NVIDIA A40 dirancang untuk Inference, rendering, virtual workstations. Dalam penerapan cloud, itu berarti: pelatihan model AI pada skala riset-ke-produksi, fine-tuning transformer, menjalankan pipeline batch serving, dan mempercepat beban kerja difusi/visi.

Ia berada di tengah pasar akselerator AI — lebih mampu daripada kartu konsumen, lebih terjangkau daripada akselerator frontier. Untuk sebagian besar tim, itu adalah tingkat yang tepat: performa cukup untuk pekerjaan nyata, penghematan cukup untuk menjalankan beberapa eksperimen secara paralel. Akses cloud mulai dari $0.30 per jam melalui Vast.ai.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Bandingkan dengan GPU Lain

Lihat bagaimana NVIDIA A40 dibandingkan dengan GPU cloud populer lainnya dalam spesifikasi, harga, dan ketersediaan.