NVIDIA · Ampere Architecture

Pronajmout NVIDIA A40 v cloudu

Data center GPU for inference and visual computing. 48GB GDDR6 at reasonable cloud pricing.

VRAM 48 GB GDDR6
Šířka pásma 696 GB/s
FP16 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Architektura Ampere
Nejlevnější On-Demand $0.30/hr
Průměrná cena On-Demand $0.74/hr
Poskytovatelé 5

Porovnání cen NVIDIA A40 v cloudu — 5 poskytovatelů

On-Demand

NVIDIA A40 — On-Demand pricing
Poskytovatel Cena / GPU / hod Dostupnost Poznámky Akce
Vast.ai United States $0.30/hr NEJLEVNĚJŠÍ Available Marketplace avg Navštívit poskytovatele
RunPod United States $0.44/hr Available Secure Cloud Navštívit poskytovatele
Massed Compute United States $0.51/hr Available Navštívit poskytovatele
Cherry Servers Lithuania $0.74/hr Available Bare metal Navštívit poskytovatele
Vultr United States $1.71/hr Available Navštívit poskytovatele

Spot / Předem přerušené

NVIDIA A40 — Spot / Předem přerušené pricing
Poskytovatel Cena / GPU / hod Dostupnost Poznámky Akce
RunPod United States $0.35/hr NEJLEVNĚJŠÍ Available Community Cloud Navštívit poskytovatele

Ceny naposledy ověřeny: April 13, 2026

Technické specifikace NVIDIA A40

Výrobce NVIDIA
Architektura Ampere
VRAM 48 GB GDDR6
Šířka pásma 696 GB/s
FP16 (Tensor) 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Rok vydání 2020
Segment Datové centrum
Typ paměti GDDR6

Nejvhodnější pro

Inference rendering virtual workstations

Často Kladené Dotazy

NVIDIA A40 rezervované vs. na vyžádání — co více ušetří?

Při oceňování cloudové VM NVIDIA A40 začněte s on-demand minimem $0.30 za hodinu (nabízí Vast.ai) a přidejte slevy navrch. Pokud úloha umožňuje checkpointing, spot snižuje cenu na $0.35 za hodinu na RunPod — přibližně up to 60% sleva oproti on-demand.

Dlouhodobé služby přecházejí na rezervované úrovně pro další přibližně up to 40% úsporu. Trh s 5 poskytovateli zajišťuje konkurenceschopné ceny, ale regionální dostupnost a počet GPU na uzel více ovlivňují reálné náklady než základní sazby.

Launch a NVIDIA A40 instance on Vast.ai from $0.30/hr — or check RunPod and Massed Compute for alternative regions and availability.

Jak si NVIDIA A40 stojí v porovnání s A100 a H100 v surových specifikacích?

NVIDIA A40 je Ampere karta s 48 GB GDDR6 paměti, 696 GB/s propustností a 150 TFLOPS výpočetního výkonu FP16. Byla uvedena na trh v 2020 a spotřebovává až 300W energie.

Při reálných úlohách je obvykle nejdůležitějším faktorem paměťový subsystém: 696 GB/s propustnosti stačí k udržení většiny úloh dekódování transformerů bez hladovění výpočetních jednotek, zatímco 48 GB VRAM podporuje širokou škálu velikostí modelů, zejména po aplikaci kvantizace.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Je NVIDIA A40 dostatečně dobrý pro produkční inferenci?

NVIDIA A40 dosahuje 150 TFLOPS FP16, 37.4 TFLOPS FP32 a napájí je z 48 GB VRAM s propustností 696 GB/s.

Benchmarky: trénink LLM s kombinovanou přesností dosahuje téměř maximálního využití FLOPS při velikostech dávek, které se vejdou do VRAM; inferenční výkon LLM je obvykle v rozmezí 5-15 % teoretického stropu omezeného propustností při autoregresivním dekódování; difuzní modely vykazují největší skok oproti starším akcelerátorům, kde rychlejší attention jádra sečtou s čistými výpočetními zisky.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Kde mohou vývojáři spouštět NVIDIA A40 pracovní zátěže bez poplatků za odchozí data?

5 poskytovatelů nabízejících dnes NVIDIA A40: Cherry Servers, Massed Compute, RunPod, Vast.ai, Vultr. Nejlevnější on-demand zdroj je Vast.ai za $0.30 za hodinu; spotová cena začíná na $0.35 za hodinu u RunPod.

Faktory reálného výběru zahrnují: technologii propojení (NVLink vs. PCIe vs. InfiniBand), dostupnost více uzlů, účtování po sekundách vs. hodinách, poplatky za odchozí provoz a regionální pokrytí. Levný poskytovatel s vysokými poplatky za odchozí provoz může stát více než dražší poskytovatel s bezplatným odchozím provozem, pokud započítáte pohyb dat.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Doporučené zátěže pro NVIDIA A40

NVIDIA A40 byl navržen pro Inference, rendering, virtual workstations. V cloudových nasazeních to znamená: trénování AI modelů ve škále od výzkumu po produkci, doladění transformerů, provoz dávkových serving pipeline a zrychlení difuzních/vision úloh.

Nachází se uprostřed trhu AI akcelerátorů — schopnější než spotřebitelské karty, dostupnější než akcelerátory na hranici možností. Pro většinu týmů je to přesně ta správná třída: dostatečný výkon pro reálnou práci, dostatečné úspory pro paralelní běh více experimentů. Přístup v cloudu od $0.30 za hodinu přes Vast.ai.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Porovnat s ostatními GPU

Podívejte se, jak si NVIDIA A40 vede ve srovnání s dalšími populárními cloudovými GPU v parametrech, cenách a dostupnosti.