NVIDIA · Ampere Architecture

Sewa NVIDIA A40 di Awan

Data center GPU for inference and visual computing. 48GB GDDR6 at reasonable cloud pricing.

VRAM 48 GB GDDR6
Lebar Jalur 696 GB/s
FP16 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Seni Bina Ampere
Termurah Atas Permintaan $0.30/hr
Purata Atas Permintaan $0.74/hr
Penyedia 5

Bandingkan Harga Awan NVIDIA A40 — 5 Penyedia

Atas Permintaan

NVIDIA A40 — Atas Permintaan pricing
Penyedia Harga / GPU / jam Ketersediaan Nota Tindakan
Vast.ai United States $0.30/hr PALING MURAH Available Marketplace avg Lawati Penyedia
RunPod United States $0.44/hr Available Secure Cloud Lawati Penyedia
Massed Compute United States $0.51/hr Available Lawati Penyedia
Cherry Servers Lithuania $0.74/hr Available Bare metal Lawati Penyedia
Vultr United States $1.71/hr Available Lawati Penyedia

Spot / Boleh Dihentikan

NVIDIA A40 — Spot / Boleh Dihentikan pricing
Penyedia Harga / GPU / jam Ketersediaan Nota Tindakan
RunPod United States $0.35/hr PALING MURAH Available Community Cloud Lawati Penyedia

Harga disahkan terakhir: April 13, 2026

Spesifikasi Teknikal NVIDIA A40

Pengeluar NVIDIA
Seni Bina Ampere
VRAM 48 GB GDDR6
Lebar Jalur 696 GB/s
FP16 (Tensor) 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Tahun Keluaran 2020
Segmen Pusat data
Jenis Memori GDDR6

Terbaik Untuk

Inference rendering virtual workstations

Soalan Lazim

NVIDIA A40 tempahan vs on-demand — yang mana lebih menjimatkan?

Apabila menetapkan harga VM NVIDIA A40 awan, mulakan dengan lantai atas permintaan $0.30 sejam (ditawarkan oleh Vast.ai) dan lapiskan diskaun di atasnya. Jika kerja boleh checkpoint, spot menurunkan kadar ke $0.35 sejam pada RunPod — kira-kira up to 60% lebih rendah daripada atas permintaan.

Perkhidmatan jangka panjang beralih ke tahap terpelihara untuk penjimatan tambahan ~up to 40%. Pasaran 5 penyedia memastikan harga kompetitif, tetapi ketersediaan wilayah dan bilangan GPU setiap nod mempengaruhi kos dunia sebenar lebih daripada kadar utama.

Launch a NVIDIA A40 instance on Vast.ai from $0.30/hr — or check RunPod and Massed Compute for alternative regions and availability.

Bagaimana perbandingan NVIDIA A40 dari segi spesifikasi mentah dengan A100 dan H100?

NVIDIA A40 adalah kad Ampere dengan 48 GB memori GDDR6, 696 GB/s lebar jalur, dan 150 TFLOPS pengiraan FP16. Ia dilancarkan pada 2020 dan menggunakan sehingga 300W kuasa.

Dalam beban kerja sebenar, subsistem memori biasanya adalah faktor paling penting: 696 GB/s lebar jalur cukup untuk menyokong kebanyakan tugas penyahkodan transformer tanpa mengurangkan unit pengiraan, manakala 48 GB VRAM menyokong pelbagai saiz model, terutamanya selepas kuantisasi digunakan.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Adakah NVIDIA A40 cukup baik untuk inferens pengeluaran?

NVIDIA A40 menolak 150 TFLOPS FP16, 37.4 TFLOPS FP32, dan membekalkannya dari 48 GB VRAM pada 696 GB/s.

Penanda aras: Latihan LLM dengan ketepatan campuran melihat penggunaan FLOPS hampir puncak pada saiz kelompok yang muat dalam VRAM; inferens LLM biasanya dalam 5-15% dari had lebar jalur teori pada penyahkodan autoregresif; model difusi menunjukkan lonjakan terbesar berbanding pemecut lama, di mana kernel perhatian lebih pantas bertindih dengan peningkatan pengiraan mentah.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Di manakah pembangun boleh melancarkan beban kerja NVIDIA A40 tanpa yuran egress?

Penyedia 5 yang menawarkan NVIDIA A40 hari ini: Cherry Servers, Massed Compute, RunPod, Vast.ai, Vultr. Sumber on-demand termurah ialah Vast.ai pada $0.30 setiap jam; harga spot terendah ialah $0.35 setiap jam pada RunPod.

Faktor pemilihan dunia sebenar termasuk: teknologi sambungan (NVLink vs. PCIe vs. InfiniBand), ketersediaan multi-node, bil per saat vs. per jam, yuran egress, dan liputan serantau. Penyedia murah dengan yuran egress tinggi boleh menelan kos lebih daripada penyedia mahal dengan egress percuma apabila anda mengambil kira pergerakan data.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Beban kerja yang disyorkan untuk NVIDIA A40

NVIDIA A40 direka untuk Inference, rendering, virtual workstations. Dalam penyebaran awan, ini bermaksud: latihan model AI pada skala penyelidikan ke pengeluaran, penalaan halus transformer, menjalankan saluran perkhidmatan kelompok, dan mempercepatkan beban kerja difusi/visi.

Ia berada di tengah pasaran pemecut AI — lebih berkemampuan daripada kad pengguna, lebih mampu milik daripada pemecut frontier. Untuk kebanyakan pasukan, itulah tahap yang tepat: prestasi cukup untuk kerja sebenar, penjimatan cukup untuk menjalankan pelbagai eksperimen secara selari. Akses awan dari $0.30 sejam melalui Vast.ai.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Bandingkan dengan GPU Lain

Lihat bagaimana NVIDIA A40 dibandingkan dengan GPU awan popular lain dari segi spesifikasi, harga, dan ketersediaan.