NVIDIA · Ampere Architecture

Huur NVIDIA A40 in de Cloud

Data center GPU for inference and visual computing. 48GB GDDR6 at reasonable cloud pricing.

VRAM 48 GB GDDR6
Bandbreedte 696 GB/s
FP16 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Architectuur Ampere
Goedkoopste On-Demand $0.30/hr
Gemiddelde On-Demand $0.74/hr
Providers 5

Vergelijk NVIDIA A40 Cloud Prijzen — 5 Providers

On-Demand

NVIDIA A40 — On-Demand pricing
Provider Prijs / GPU / uur Beschikbaarheid Notities Actie
Vast.ai United States $0.30/hr GOEDKOOPST Available Marketplace avg Bezoek Provider
RunPod United States $0.44/hr Available Secure Cloud Bezoek Provider
Massed Compute United States $0.51/hr Available Bezoek Provider
Cherry Servers Lithuania $0.74/hr Available Bare metal Bezoek Provider
Vultr United States $1.71/hr Available Bezoek Provider

Spot / Preëmptible

NVIDIA A40 — Spot / Preëmptible pricing
Provider Prijs / GPU / uur Beschikbaarheid Notities Actie
RunPod United States $0.35/hr GOEDKOOPST Available Community Cloud Bezoek Provider

Prijzen laatst gecontroleerd: April 13, 2026

NVIDIA A40 Technische Specificaties

Fabrikant NVIDIA
Architectuur Ampere
VRAM 48 GB GDDR6
Bandbreedte 696 GB/s
FP16 (Tensor) 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Jaar van Uitgave 2020
Segment Datacenter
Geheugentype GDDR6

Beste Voor

Inference rendering virtual workstations

Veelgestelde Vragen

NVIDIA A40 gereserveerd versus on-demand — welke bespaart meer?

Bij het prijzen van een NVIDIA A40 cloud VM begint u met de on-demand basis van $0.30 per uur (aangeboden door Vast.ai) en bouwt u kortingen daar bovenop. Als de taak kan checkpointen, verlaagt spot het tarief tot $0.35 per uur op RunPod — ongeveer up to 60% korting ten opzichte van on-demand.

Langdurige diensten migreren naar gereserveerde niveaus voor nog eens ~up to 40% besparing. De 5-aanbiedersmarkt zorgt voor concurrerende prijzen, maar regionale beschikbaarheid en GPU-aantal per node beïnvloeden de werkelijke kosten meer dan de basistarieven.

Launch a NVIDIA A40 instance on Vast.ai from $0.30/hr — or check RunPod and Massed Compute for alternative regions and availability.

Hoe verhoudt NVIDIA A40 zich qua ruwe specificaties tot de A100 en H100?

NVIDIA A40 is een Ampere kaart met 48 GB GDDR6 geheugen, 696 GB/s bandbreedte, en 150 TFLOPS FP16 rekenkracht. Het werd gelanceerd in 2020 en verbruikt tot 300W vermogen.

Bij echte workloads is het geheugensubsyteem doorgaans de belangrijkste factor: 696 GB/s bandbreedte is genoeg om de meeste transformer decoding taken te ondersteunen zonder de compute units uit te hongeren, terwijl 48 GB VRAM een breed scala aan modelgroottes ondersteunt, vooral zodra quantisatie wordt toegepast.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Is NVIDIA A40 goed genoeg voor productie-inferentie?

NVIDIA A40 levert 150 TFLOPS FP16, 37.4 TFLOPS FP32, en voedt deze met 48 GB VRAM bij 696 GB/s.

Benchmarks: LLM training met mixed precision bereikt bijna piek FLOPS gebruik bij batchgroottes die in VRAM passen; LLM inferentie zit meestal binnen 5-15% van de theoretische bandbreedte-beperkte bovengrens bij autoregressieve decodering; diffusie modellen laten de grootste sprong zien ten opzichte van oudere versnellingskaarten, waar snellere attention kernels zich opstapelen met de ruwe rekenwinst.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Waar kunnen ontwikkelaars NVIDIA A40 workloads starten zonder uitgaande kosten?

De 5 providers die vandaag NVIDIA A40 aanbieden: Cherry Servers, Massed Compute, RunPod, Vast.ai, Vultr. De opvallend goedkoopste on-demand bron is Vast.ai voor $0.30 per uur; spotprijzen beginnen bij $0.35 per uur bij RunPod.

Reële selectiecriteria omvatten: interconnect-technologie (NVLink vs. PCIe vs. InfiniBand), multi-node beschikbaarheid, facturering per seconde vs. per uur, egress-kosten en regionale dekking. Een goedkope provider met hoge egress-kosten kan duurder uitvallen dan een duurdere provider met gratis egress zodra u dataverkeer meerekent.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

NVIDIA A40 aanbevolen werklasten

NVIDIA A40 is ontworpen voor Inference, rendering, virtual workstations. In cloud-implementaties vertaalt dit zich naar: AI-modeltraining op onderzoeks- tot productieschaal, fine-tunen van transformers, batch serving pipelines draaien en versnellen van diffusie/visie workloads.

Het bevindt zich in het midden van de AI-versneller markt — capabeler dan consumentenkaarten, betaalbaarder dan grensverleggende versnellers. Voor de meeste teams is dat precies het juiste segment: genoeg prestaties voor echt werk, genoeg besparing om meerdere experimenten parallel te draaien. Cloudtoegang vanaf $0.30 per uur via Vast.ai.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Vergelijk met andere GPUs

Bekijk hoe NVIDIA A40 zich verhoudt tot andere populaire cloud-GPU's qua specificaties, prijzen en beschikbaarheid.