NVIDIA · Ada Lovelace Architecture

Sewa NVIDIA L40S di Awan

Versatile data center GPU balancing AI compute with graphics capabilities. Strong for inference workloads.

VRAM 48 GB GDDR6
Lebar Jalur 864 GB/s
FP16 366.0 TFLOPS
FP32 91.6 TFLOPS
TDP 350W
Seni Bina Ada Lovelace
Termurah Atas Permintaan $0.55/hr
Purata Atas Permintaan $0.95/hr
Penyedia 7

Bandingkan Harga Awan NVIDIA L40S — 7 Penyedia

Atas Permintaan

NVIDIA L40S — Atas Permintaan pricing
Penyedia Harga / GPU / jam Ketersediaan Nota Tindakan
Vast.ai United States $0.55/hr PALING MURAH Available Marketplace avg Lawati Penyedia
Novita AI United States $0.55/hr PALING MURAH Available Lawati Penyedia
Latitude.sh Brazil $0.61/hr Available GPU VM Lawati Penyedia
RunPod United States $0.86/hr Available Secure Cloud Lawati Penyedia
Massed Compute United States $0.86/hr Available Lawati Penyedia
DigitalOcean United States $1.57/hr Available Lawati Penyedia
Vultr United States $1.67/hr Available Lawati Penyedia

Spot / Boleh Dihentikan

NVIDIA L40S — Spot / Boleh Dihentikan pricing
Penyedia Harga / GPU / jam Ketersediaan Nota Tindakan
RunPod United States $0.79/hr PALING MURAH Available Community Cloud Lawati Penyedia

Harga disahkan terakhir: April 13, 2026

Spesifikasi Teknikal NVIDIA L40S

Pengeluar NVIDIA
Seni Bina Ada Lovelace
VRAM 48 GB GDDR6
Lebar Jalur 864 GB/s
FP16 (Tensor) 366.0 TFLOPS
FP32 91.6 TFLOPS
TDP 350W
Tahun Keluaran 2023
Segmen Pusat data
Jenis Memori GDDR6

Terbaik Untuk

Inference fine-tuning video processing AI-accelerated graphics

Soalan Lazim

Diskaun apa yang boleh saya jangkakan untuk NVIDIA L40S dengan harga spot atau tempahan?

Jangkaan harga NVIDIA L40S awan bermula dari $0.55 sejam atas permintaan. Menurut snapshot July 14, 2026 kami, pilihan atas permintaan berharga terendah pasaran ialah Vast.ai, manakala RunPod menawarkan kadar spot terendah pada $0.79 sejam — penjimatan up to 60% untuk kerja yang boleh menerima gangguan. Kontrak terpelihara menambah diskaun ~up to 40% untuk tempahan berbilang bulan.

Bil atas permintaan satu bulan biasa mencecah empat angka pada penggunaan penuh, sebab itu perkhidmatan inferens pengeluaran biasanya beralih ke terpelihara dan kerja eksperimen kekal atas permintaan atau spot.

Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.

Apakah lebar jalur memori NVIDIA L40S?

Sekilas pandang: NVIDIA L40S = seni bina Ada Lovelace, 48 GB memori GDDR6, lebar jalur 864 GB/s, 366 FP16 TFLOPS, 91.6 FP32 TFLOPS, 350W, 2023.

Spesifikasi ini menceritakan kebanyakan kisah untuk pembelajaran mesin: VRAM menetapkan had model, lebar jalur mengehadkan inferens pengeluaran yang berat perhatian, dan TFLOPS menetapkan kelajuan pra-latihan. NVIDIA L40S berada dalam kelas pemecut yang disasarkan untuk beban kerja transformer moden — keseimbangan lebar jalur/TFLOPS dioptimumkan untuk pra-latihan kelompok besar dan inferens pengeluaran, bukan permainan.

Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.

NVIDIA L40S prestasi AI generatif dunia sebenar

366 TFLOPS FP16 dan 864 GB/s lebar jalur memori meletakkan NVIDIA L40S tepat dalam kelas pemecut yang disasarkan pada beban kerja transformer moden. FP32 mencapai maksimum pada 91.6 TFLOPS, yang masih mengendalikan kebanyakan pengiraan saintifik bukan AI dengan selesa.

Untuk latihan dari awal, hasil token kira-kira mengikuti TFLOPS FP16. Untuk inferens produksi pada model asas, hasil mengikuti lebar jalur. Nombor dunia nyata sangat bergantung pada tumpukan rangka kerja (PyTorch, TensorRT-LLM, vLLM), dan boleh berbeza 30-50% bergantung pada betapa agresifnya anda melakukan kuantisasi.

The cheapest NVIDIA L40S right now is on Vast.ai at $0.55/hr; Novita AI and Latitude.sh also list it — pick the region and billing that fits your workload.

Penyedia manakah yang mempunyai paling banyak wilayah NVIDIA L40S?

NVIDIA L40S disenaraikan oleh 7 penyedia GPU awan: DigitalOcean, Latitude.sh, Massed Compute, Novita AI, RunPod, Vast.ai, and others. Harga permulaan on-demand bermula pada $0.55 setiap jam melalui Vast.ai, manakala kapasiti spot bermula pada $0.79 setiap jam melalui RunPod.

Itu adalah pasaran yang agak sesak, yang mengekalkan kadar kompetitif tetapi juga bermakna perbezaan tahap penyedia dalam sokongan, masa operasi, dan polisi egress adalah kriteria keputusan sebenar. Tawaran GPU tanpa pelayan (serverless) (di mana tersedia) mengurangkan kos dengan hanya mengenakan bayaran untuk saat inferens yang anda gunakan.

Ready to deploy? Vast.ai has NVIDIA L40S from $0.55/hr. Novita AI and Latitude.sh also carry it.

Kes penggunaan NVIDIA L40S — di mana ia menonjol?

Titik manis untuk NVIDIA L40S: Inference, fine-tuning, video processing, AI-accelerated graphics. Beban kerja tersebut memanfaatkan VRAM 48 GB dan seni bina Ada Lovelace dengan baik dan tidak terhalang oleh had kuasa pengkomputannya.

Jika anda masih tidak pasti sama ada NVIDIA L40S sesuai, uji beban kerja sebenar anda padanya — pada harga $0.55 sejam anda boleh memulakan instans ujian, jalankan saluran kerja anda selama sejam, dan membuat keputusan berdasarkan data sebenar.

Spin up NVIDIA L40S on Vast.ai for $0.55/hr, with Novita AI and Latitude.sh as strong alternatives — compare and deploy in minutes.

Bandingkan dengan GPU Lain

Lihat bagaimana NVIDIA L40S dibandingkan dengan GPU awan popular lain dari segi spesifikasi, harga, dan ketersediaan.