NVIDIA · Ada Lovelace Architecture

Noleggia NVIDIA L40S nel Cloud

Versatile data center GPU balancing AI compute with graphics capabilities. Strong for inference workloads.

VRAM 48 GB GDDR6
Larghezza di banda 864 GB/s
FP16 366.0 TFLOPS
FP32 91.6 TFLOPS
TDP 350W
Architettura Ada Lovelace
Più economico On-Demand $0.55/hr
Prezzo medio On-Demand $0.95/hr
Provider 7

Confronta i Prezzi Cloud di NVIDIA L40S — 7 Provider

On-Demand

NVIDIA L40S — On-Demand pricing
Provider Prezzo / GPU / ora Disponibilità Note Azione
Vast.ai United States $0.55/hr PIÙ ECONOMICA Available Marketplace avg Visita il Provider
Novita AI United States $0.55/hr PIÙ ECONOMICA Available Visita il Provider
Latitude.sh Brazil $0.61/hr Available GPU VM Visita il Provider
RunPod United States $0.86/hr Available Secure Cloud Visita il Provider
Massed Compute United States $0.86/hr Available Visita il Provider
DigitalOcean United States $1.57/hr Available Visita il Provider
Vultr United States $1.67/hr Available Visita il Provider

Spot / Preemptible

NVIDIA L40S — Spot / Preemptible pricing
Provider Prezzo / GPU / ora Disponibilità Note Azione
RunPod United States $0.79/hr PIÙ ECONOMICA Available Community Cloud Visita il Provider

Prezzi verificati l'ultima volta: April 13, 2026

Specifiche Tecniche di NVIDIA L40S

Produttore NVIDIA
Architettura Ada Lovelace
VRAM 48 GB GDDR6
Larghezza di banda 864 GB/s
FP16 (Tensor) 366.0 TFLOPS
FP32 91.6 TFLOPS
TDP 350W
Anno di rilascio 2023
Segmento Data center
Tipo di Memoria GDDR6

Ideale per

Inference fine-tuning video processing AI-accelerated graphics

Domande Frequenti

Quale sconto posso aspettarmi su NVIDIA L40S con prezzi spot o riservati?

Si prevede che il prezzo cloud NVIDIA L40S inizi da $0.55 all'ora on-demand. Secondo il nostro snapshot July 14, 2026, l'opzione on-demand con il prezzo più basso sul mercato è Vast.ai, mentre RunPod offre la tariffa spot più bassa a $0.79 all'ora — un risparmio di up to 60% per lavori tolleranti alle interruzioni. I contratti riservati aggiungono un ulteriore sconto di circa up to 40% per prenotazioni di più mesi.

Le bollette tipiche on-demand di un mese raggiungono cifre a quattro cifre a piena utilizzazione, motivo per cui i servizi di inferenza in produzione di solito migrano verso riservato e i lavori sperimentali rimangono on-demand o spot.

Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.

Qual è la larghezza di banda della memoria di NVIDIA L40S?

A colpo d'occhio: NVIDIA L40S = architettura Ada Lovelace, 48 GB di memoria GDDR6, 864 GB/s di larghezza di banda, 366 TFLOPS FP16, 91.6 TFLOPS FP32, 350W, 2023.

Queste specifiche raccontano la maggior parte della storia per il machine learning: la VRAM stabilisce il limite massimo del modello, la larghezza di banda limita l'inferenza in produzione con attenzione intensiva, e i TFLOPS determinano la velocità del pre-addestramento. NVIDIA L40S si colloca saldamente nella classe di acceleratori destinati ai carichi di lavoro moderni dei transformer — l'equilibrio larghezza di banda/TFLOPS è ottimizzato per il pre-addestramento con batch grandi e l'inferenza in produzione piuttosto che per il gaming.

Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.

NVIDIA L40S prestazioni reali di AI generativa

366 TFLOPS FP16 e 864 GB/s di larghezza di banda della memoria collocano NVIDIA L40S chiaramente nella classe di acceleratori destinati ai carichi di lavoro moderni dei transformer. Il picco FP32 è di 91.6 TFLOPS, che gestisce comodamente la maggior parte del calcolo scientifico non AI.

Per l'addestramento da zero, la produttività di token segue approssimativamente i TFLOPS FP16. Per l'inferenza di produzione su modelli di base, la produttività segue la larghezza di banda. I numeri reali dipendono fortemente dallo stack del framework (PyTorch, TensorRT-LLM, vLLM) e possono variare dal 30 al 50% a seconda di quanto aggressivamente si quantizza.

The cheapest NVIDIA L40S right now is on Vast.ai at $0.55/hr; Novita AI and Latitude.sh also list it — pick the region and billing that fits your workload.

Quale provider ha il maggior numero di regioni NVIDIA L40S?

NVIDIA L40S è elencato da 7 fornitori di GPU cloud: DigitalOcean, Latitude.sh, Massed Compute, Novita AI, RunPod, Vast.ai, and others. Il prezzo di ingresso on-demand parte da $0.55 all'ora tramite Vast.ai, mentre la capacità spot parte da $0.79 all'ora tramite RunPod.

Si tratta di un mercato relativamente affollato, che mantiene le tariffe competitive ma significa anche che le differenze a livello di fornitore in termini di supporto, uptime e politiche di uscita dati sono i veri criteri decisionali. Le offerte di GPU serverless (dove disponibili) riducono ulteriormente i costi fatturando solo per i secondi di inferenza effettivamente consumati.

Ready to deploy? Vast.ai has NVIDIA L40S from $0.55/hr. Novita AI and Latitude.sh also carry it.

Casi d'uso di NVIDIA L40S — dove eccelle?

Il punto ideale per NVIDIA L40S: Inference, fine-tuning, video processing, AI-accelerated graphics. Questi carichi di lavoro sfruttano bene i suoi 48 GB di VRAM e l'architettura Ada Lovelace e non sono limitati dal suo envelope di calcolo.

Se non è ancora sicuro che NVIDIA L40S sia adatto, esegua un benchmark del suo carico di lavoro reale su di esso — a $0.55 all'ora può avviare un'istanza di prova, eseguire la pipeline per un'ora e prendere una decisione informata con dati reali.

Spin up NVIDIA L40S on Vast.ai for $0.55/hr, with Novita AI and Latitude.sh as strong alternatives — compare and deploy in minutes.

Confronta con Altre GPU

Scopri come NVIDIA L40S si posiziona rispetto ad altre GPU cloud popolari in termini di specifiche, prezzi e disponibilità.