NVIDIA · Ampere Architecture

Wypożycz NVIDIA A40 w chmurze

Data center GPU for inference and visual computing. 48GB GDDR6 at reasonable cloud pricing.

VRAM 48 GB GDDR6
Przepustowość 696 GB/s
FP16 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Architektura Ampere
Najtańsze na żądanie $0.30/hr
Średnia cena na żądanie $0.74/hr
Dostawcy 5

Porównaj ceny NVIDIA A40 w chmurze — 5 dostawców

Na żądanie

NVIDIA A40 — Na żądanie pricing
Dostawca Cena / GPU / godz. Dostępność Uwagi Akcja
Vast.ai United States $0.30/hr NAJNIŻSZA CENA Available Marketplace avg Odwiedź dostawcę
RunPod United States $0.44/hr Available Secure Cloud Odwiedź dostawcę
Massed Compute United States $0.51/hr Available Odwiedź dostawcę
Cherry Servers Lithuania $0.74/hr Available Bare metal Odwiedź dostawcę
Vultr United States $1.71/hr Available Odwiedź dostawcę

Spot / Przerywalne

NVIDIA A40 — Spot / Przerywalne pricing
Dostawca Cena / GPU / godz. Dostępność Uwagi Akcja
RunPod United States $0.35/hr NAJNIŻSZA CENA Available Community Cloud Odwiedź dostawcę

Ceny ostatnio zweryfikowane: April 13, 2026

Specyfikacje techniczne NVIDIA A40

Producent NVIDIA
Architektura Ampere
VRAM 48 GB GDDR6
Przepustowość 696 GB/s
FP16 (Tensor) 150.0 TFLOPS
FP32 37.4 TFLOPS
TDP 300W
Rok wydania 2020
Segment Centrum danych
Typ pamięci GDDR6

Najlepsze do

Inference rendering virtual workstations

Najczęściej Zadawane Pytania

NVIDIA A40 zarezerwowane vs na żądanie — co bardziej się opłaca?

Przy wycenie NVIDIA A40 w chmurze zacznij od podstawy on-demand $0.30 za godzinę (oferowanej przez Vast.ai) i nakładaj zniżki. Jeśli zadanie może robić checkpointy, spot obniża stawkę do $0.35 za godzinę na RunPod — około up to 60% taniej niż on-demand.

Usługi długoterminowe przechodzą na rezerwacje, co daje kolejne ~up to 40% oszczędności. Rynek z 5 dostawcami zapewnia konkurencyjne ceny, ale dostępność regionalna i liczba GPU na węzeł mają większy wpływ na rzeczywiste koszty niż podstawowe stawki.

Launch a NVIDIA A40 instance on Vast.ai from $0.30/hr — or check RunPod and Massed Compute for alternative regions and availability.

Jak NVIDIA A40 wypada pod względem surowych specyfikacji w porównaniu do A100 i H100?

NVIDIA A40 to karta Ampere z 48 GB pamięci GDDR6, 696 GB/s przepustowości oraz 150 TFLOPS mocy obliczeniowej FP16. Została wprowadzona na rynek w 2020 i zużywa do 300W mocy.

W rzeczywistych obciążeniach podsystem pamięci jest zazwyczaj najważniejszym czynnikiem: 696 GB/s przepustowości wystarcza, aby utrzymać większość zadań dekodowania transformera bez niedoboru jednostek obliczeniowych, podczas gdy 48 GB VRAM wspiera szeroki zakres rozmiarów modeli, zwłaszcza po zastosowaniu kwantyzacji.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Czy NVIDIA A40 jest wystarczająco dobry do produkcyjnego wnioskowania?

NVIDIA A40 osiąga 150 TFLOPS FP16, 37.4 TFLOPS FP32 i zasila je z 48 GB pamięci VRAM przy przepustowości 696 GB/s.

Benchmarki: trening LLM z mieszanymi precyzjami osiąga niemal maksymalne wykorzystanie FLOPS przy rozmiarach wsadów mieszczących się w VRAM; wnioskowanie LLM zwykle mieści się w 5-15% teoretycznego limitu przepustowości przy dekodowaniu autoregresywnym; modele dyfuzji pokazują największy wzrost względem starszych akceleratorów, gdzie szybsze jądra uwagi łączą się z surowymi zyskami obliczeniowymi.

Rent NVIDIA A40 today from Vast.ai, RunPod, or Massed Compute — compare live pricing and spin up in minutes.

Gdzie deweloperzy mogą uruchamiać obciążenia NVIDIA A40 bez opłat za transfer danych?

5 dostawców oferujących dziś NVIDIA A40: Cherry Servers, Massed Compute, RunPod, Vast.ai, Vultr. Najtańszym źródłem na żądanie jest Vast.ai za $0.30 za godzinę; ceny spot zaczynają się od $0.35 za godzinę na RunPod.

Czynniki wyboru w praktyce obejmują: technologię interkonektu (NVLink vs. PCIe vs. InfiniBand), dostępność multi-node, rozliczenia sekundowe vs. godzinowe, opłaty za egress oraz zasięg regionalny. Tani dostawca z wysokimi opłatami za egress może kosztować więcej niż droższy dostawca z darmowym egress po uwzględnieniu przesyłu danych.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Zalecane obciążenia dla NVIDIA A40

NVIDIA A40 został zaprojektowany do Inference, rendering, virtual workstations. W wdrożeniach chmurowych oznacza to: trening modeli AI na skalę od badań do produkcji, dostrajanie transformatorów, uruchamianie pipeline’ów batch serving oraz przyspieszanie zadań dyfuzyjnych i wizualnych.

Znajduje się w środku rynku akceleratorów AI — bardziej wydajny niż karty konsumenckie, bardziej przystępny niż akceleratory frontier. Dla większości zespołów to dokładnie odpowiednia klasa: wystarczająca wydajność do realnej pracy, wystarczające oszczędności, by prowadzić wiele eksperymentów równolegle. Dostęp w chmurze od $0.30 za godzinę przez Vast.ai.

Top cloud providers offering NVIDIA A40: Vast.ai (from $0.30/hr), RunPod, and Massed Compute. Start comparing live rates.

Porównaj z innymi GPU

Zobacz, jak NVIDIA A40 wypada na tle innych popularnych GPU w chmurze pod względem specyfikacji, cen i dostępności.