Mieten NVIDIA L40S in der Cloud
Versatile data center GPU balancing AI compute with graphics capabilities. Strong for inference workloads.
Vergleichen Sie NVIDIA L40S Cloud-Preise — 7 Anbieter
On-Demand
| Anbieter | Preis / GPU / Std. | Verfügbarkeit | Hinweise | Aktion |
|---|---|---|---|---|
Vast.ai
United States
|
$0.55/hr GÜNSTIGSTE | Available | Marketplace avg | Anbieter besuchen |
Novita AI
United States
|
$0.55/hr GÜNSTIGSTE | Available | — | Anbieter besuchen |
Latitude.sh
Brazil
|
$0.61/hr | Available | GPU VM | Anbieter besuchen |
RunPod
United States
|
$0.86/hr | Available | Secure Cloud | Anbieter besuchen |
Massed Compute
United States
|
$0.86/hr | Available | — | Anbieter besuchen |
DigitalOcean
United States
|
$1.57/hr | Available | — | Anbieter besuchen |
Vultr
United States
|
$1.67/hr | Available | — | Anbieter besuchen |
Spot / Vorübergehend
| Anbieter | Preis / GPU / Std. | Verfügbarkeit | Hinweise | Aktion |
|---|---|---|---|---|
|
RunPod
United States
|
$0.79/hr GÜNSTIGSTE | Available | Community Cloud | Anbieter besuchen |
Preise zuletzt überprüft: April 13, 2026
Technische Spezifikationen von NVIDIA L40S
Am besten geeignet für
Häufig Gestellte Fragen
Welchen Rabatt kann ich bei NVIDIA L40S mit Spot- oder Reservierungspreisen erwarten?
Erwarten Sie, dass der NVIDIA L40S Cloud-Preis bei $0.55 pro Stunde On-Demand beginnt. Laut unserem July 14, 2026 Snapshot ist die günstigste On-Demand-Option Vast.ai, während RunPod den niedrigsten Spot-Preis bei $0.79 pro Stunde bietet – eine Ersparnis von up to 60% für unterbrechungstolerante Jobs. Reservierte Verträge bieten weitere ~up to 40% Rabatt bei mehrmonatigen Buchungen.
Typische On-Demand-Rechnungen für einen Monat erreichen bei voller Auslastung vierstellige Beträge, weshalb Produktions-Inferenzdienste meist auf reservierte Kapazitäten umsteigen und experimentelle Arbeiten On-Demand oder Spot bleiben.
Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.
Wie hoch ist die Speicherbandbreite von NVIDIA L40S?
Auf einen Blick: NVIDIA L40S = Ada Lovelace Architektur, 48 GB GDDR6 Speicher, 864 GB/s Bandbreite, 366 FP16 TFLOPS, 91.6 FP32 TFLOPS, 350W, 2023.
Diese Spezifikationen erzählen den Großteil der Geschichte für maschinelles Lernen: VRAM bestimmt die Modellobergrenze, Bandbreite begrenzt die aufmerksamkeitsschwere Produktionsinferenz, und TFLOPS bestimmen den Durchsatz beim Vortraining. NVIDIA L40S gehört eindeutig zur Klasse der Beschleuniger, die auf moderne Transformer-Arbeitslasten ausgerichtet sind – das Verhältnis von Bandbreite zu TFLOPS ist auf großes Batch-Vortraining und Produktionsinferenz ausgelegt, nicht auf Gaming.
Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.
NVIDIA L40S reale generative KI-Leistung
366 FP16 TFLOPS und 864 GB/s Speicherbandbreite positionieren NVIDIA L40S eindeutig in der Klasse der Beschleuniger, die auf moderne Transformer-Arbeitslasten ausgerichtet sind. FP32 erreicht maximal 91.6 TFLOPS, was die meisten nicht-KI-wissenschaftlichen Berechnungen komfortabel bewältigt.
Für das Training von Grund auf folgt der Token-Durchsatz ungefähr den FP16 TFLOPS. Für die Produktion von Inferenz auf Foundation-Modellen folgt der Durchsatz der Bandbreite. Reale Zahlen hängen stark vom Framework-Stack (PyTorch, TensorRT-LLM, vLLM) ab und können je nach Quantisierungsgrad um 30-50 % variieren.
The cheapest NVIDIA L40S right now is on Vast.ai at $0.55/hr; Novita AI and Latitude.sh also list it — pick the region and billing that fits your workload.
Welcher Anbieter hat die meisten NVIDIA L40S Regionen?
NVIDIA L40S wird von 7 Cloud-GPU-Anbietern gelistet: DigitalOcean, Latitude.sh, Massed Compute, Novita AI, RunPod, Vast.ai, and others. Die Einstiegspreise für On-Demand beginnen bei $0.55 pro Stunde über Vast.ai, während Spot-Kapazität bei $0.79 pro Stunde über RunPod startet.
Das ist ein relativ umkämpfter Markt, was die Preise wettbewerbsfähig hält, aber auch bedeutet, dass Unterschiede auf Anbieterebene bei Support, Verfügbarkeit und Ausgabepolitik die eigentlichen Entscheidungskriterien sind. Serverless-GPU-Angebote (wo verfügbar) reduzieren die Kosten zusätzlich, indem nur die tatsächlich genutzten Inferenz-Sekunden abgerechnet werden.
Ready to deploy? Vast.ai has NVIDIA L40S from $0.55/hr. Novita AI and Latitude.sh also carry it.
NVIDIA L40S Anwendungsfälle – wo zeigt es seine Stärken?
Der Sweet Spot für NVIDIA L40S: Inference, fine-tuning, video processing, AI-accelerated graphics. Diese Workloads nutzen seinen 48 GB VRAM und die Ada Lovelace Architektur gut aus und werden nicht durch seine Rechenleistung ausgebremst.
Wenn Sie sich noch unsicher sind, ob NVIDIA L40S die richtige Wahl ist, benchmarken Sie Ihren tatsächlichen Workload darauf — bei $0.55 pro Stunde können Sie eine Testinstanz starten, Ihre Pipeline eine Stunde laufen lassen und eine fundierte Entscheidung auf Basis realer Daten treffen.
Spin up NVIDIA L40S on Vast.ai for $0.55/hr, with Novita AI and Latitude.sh as strong alternatives — compare and deploy in minutes.
Mit anderen GPUs vergleichen
Sehen Sie, wie NVIDIA L40S im Vergleich zu anderen beliebten Cloud-GPUs bei Spezifikationen, Preisen und Verfügbarkeit abschneidet.