NVIDIA · Ampere Architecture

Béreljen NVIDIA A40 a felhőben

Data center GPU for inference and visual computing. 48GB GDDR6 at reasonable cloud pricing.

VRAM 48 GB GDDR6
Sávszélesség 696 GB/s
FP16 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Architektúra Ampere
Legolcsóbb Azonnali $0.30/hr
Átlagos Azonnali $0.74/hr
Szolgáltatók 5

Összehasonlítás NVIDIA A40 Felhő Árazás — 5 Szolgáltató

Azonnali

NVIDIA A40 — Azonnali pricing
Szolgáltató Ár / GPU / óra Elérhetőség Megjegyzések Művelet
Vast.ai United States $0.30/hr LEGOLCSÓBB Available Marketplace avg Szolgáltató Látogatása
RunPod United States $0.44/hr Available Secure Cloud Szolgáltató Látogatása
Massed Compute United States $0.51/hr Available Szolgáltató Látogatása
Cherry Servers Lithuania $0.74/hr Available Bare metal Szolgáltató Látogatása
Vultr United States $1.71/hr Available Szolgáltató Látogatása

Spot / Előzetesen Megszakítható

NVIDIA A40 — Spot / Előzetesen Megszakítható pricing
Szolgáltató Ár / GPU / óra Elérhetőség Megjegyzések Művelet
RunPod United States $0.35/hr LEGOLCSÓBB Available Community Cloud Szolgáltató Látogatása

Árak utolsó ellenőrzése: April 13, 2026

NVIDIA A40 Műszaki Adatok

Gyártó NVIDIA
Architektúra Ampere
VRAM 48 GB GDDR6
Sávszélesség 696 GB/s
FP16 (Tensor) 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Megjelenési Év 2020
Szegmens Adatközpont
Memóriatípus GDDR6

Legalkalmasabb

Inference rendering virtual workstations

Gyakran Ismételt Kérdések

NVIDIA A40 lefoglalt vs on-demand – melyik spórol többet?

NVIDIA A40 felhő VM árazásakor kezdje az igény szerinti alsó szinttel, amely $0.30 óránként (amit Vast.ai kínál), és erre rétegezze a kedvezményeket. Ha a munka ellenőrizhető, a spot díj $0.35 óránkénti szintre csökken a RunPod-on — ez körülbelül up to 60% kedvezmény az igény szerinti árhoz képest.

A hosszú távú szolgáltatások előre lefoglalt szintekre váltanak további körülbelül up to 40% megtakarításért. A 5-szolgáltatós piac versenyképes árakat biztosít, de a régiós elérhetőség és a GPU-k száma csomópontonként nagyobb hatással van a valós költségekre, mint a fő árak.

Launch a NVIDIA A40 instance on Vast.ai from $0.30/hr — or check RunPod and Massed Compute for alternative regions and availability.

Hogyan viszonyul NVIDIA A40 nyers specifikációk alapján az A100-hez és az H100-hoz?

NVIDIA A40 egy Ampere kártya 48 GB GDDR6 memóriával, 696 GB/s sávszélességgel és 150 TFLOPS FP16 számítási teljesítménnyel. 2020 indult, és akár 300W teljesítményt is felhasznál.

Valós terhelések esetén a memória alrendszer általában a legfontosabb tényező: 696 GB/s sávszélesség elegendő a legtöbb transzformer dekódolási feladat fenntartásához anélkül, hogy az számítási egységek éheznének, míg 48 GB VRAM támogatja a modellméretek széles skáláját, különösen a kvantálás alkalmazása után.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Elég jó a NVIDIA A40 termelési inferenciához?

NVIDIA A40 150 TFLOPS FP16-t, 37.4 TFLOPS FP32-t nyújt, és ezeket 48 GB VRAM-ból táplálja 696 GB/s sebességgel.

Mérőtesztek: vegyes pontosságú LLM tanításnál közel csúcsteljesítményű FLOPS kihasználtságot látunk olyan tömegméreteknél, amelyek beleférnek a VRAM-ba; LLM inferencia általában 5-15%-on belül van az elméleti sávszélesség-korlátozott plafonnak az autoregresszív dekódolásnál; a diffúziós modellek mutatják a legnagyobb ugrást a régebbi gyorsítókhoz képest, ahol a gyorsabb figyelem-kernel-ek a nyers számítási előnyökkel együtt halmozódnak.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Hol indíthatnak fejlesztők NVIDIA A40 munkaterheléseket nulla egress díjjal?

A 5 szolgáltatók, amelyek ma NVIDIA A40 kínálnak: Cherry Servers, Massed Compute, RunPod, Vast.ai, Vultr. A legolcsóbb on-demand forrás a Vast.ai $0.30 óránként; a spot árak $0.35 óránként érnek el minimumot a RunPod szolgáltatásánál.

A valós választási tényezők közé tartozik: az összeköttetés technológiája (NVLink vs. PCIe vs. InfiniBand), a többcsomópontos elérhetőség, a másodperc- vagy óránkénti számlázás, az adatforgalmi díjak és a regionális lefedettség. Egy olcsó szolgáltató magas adatforgalmi díjakkal többe kerülhet, mint egy drágább, de ingyenes adatforgalmat kínáló szolgáltató, ha az adatmozgatást is figyelembe vesszük.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

NVIDIA A40 ajánlott munkaterhelések

NVIDIA A40 az Inference, rendering, virtual workstations számára készült. Felhőalapú telepítésekben ez azt jelenti: AI modell tanítása kutatástól termelésig, transzformerek finomhangolása, batch kiszolgálási folyamatok futtatása és diffúziós/vizuális munkaterhelések gyorsítása.

Az AI gyorsítók piacának középső szegmensében helyezkedik el — képességben meghaladja a fogyasztói kártyákat, ára pedig kedvezőbb, mint a határvonal-szintű gyorsítóké. A legtöbb csapat számára ez a megfelelő szint: elég teljesítmény a valódi munkához, elég megtakarítás ahhoz, hogy párhuzamosan több kísérletet futtassanak. Felhőhozzáférés $0.30 óránként a Vast.ai révén.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Összehasonlítás más GPU-kkal

Nézze meg, hogyan áll NVIDIA A40 más népszerű felhő GPU-khoz képest specifikációk, árak és elérhetőség alapján.