NVIDIA · Ada Lovelace Architecture

Wypożycz NVIDIA L40S w chmurze

Versatile data center GPU balancing AI compute with graphics capabilities. Strong for inference workloads.

VRAM 48 GB GDDR6
Przepustowość 864 GB/s
FP16 366.0 TFLOPS
FP32 91.6 TFLOPS
TDP 350W
Architektura Ada Lovelace
Najtańsze na żądanie $0.55/hr
Średnia cena na żądanie $0.95/hr
Dostawcy 7

Porównaj ceny NVIDIA L40S w chmurze — 7 dostawców

Na żądanie

NVIDIA L40S — Na żądanie pricing
Dostawca Cena / GPU / godz. Dostępność Uwagi Akcja
Vast.ai United States $0.55/hr NAJNIŻSZA CENA Available Marketplace avg Odwiedź dostawcę
Novita AI United States $0.55/hr NAJNIŻSZA CENA Available Odwiedź dostawcę
Latitude.sh Brazil $0.61/hr Available GPU VM Odwiedź dostawcę
RunPod United States $0.86/hr Available Secure Cloud Odwiedź dostawcę
Massed Compute United States $0.86/hr Available Odwiedź dostawcę
DigitalOcean United States $1.57/hr Available Odwiedź dostawcę
Vultr United States $1.67/hr Available Odwiedź dostawcę

Spot / Przerywalne

NVIDIA L40S — Spot / Przerywalne pricing
Dostawca Cena / GPU / godz. Dostępność Uwagi Akcja
RunPod United States $0.79/hr NAJNIŻSZA CENA Available Community Cloud Odwiedź dostawcę

Ceny ostatnio zweryfikowane: April 13, 2026

Specyfikacje techniczne NVIDIA L40S

Producent NVIDIA
Architektura Ada Lovelace
VRAM 48 GB GDDR6
Przepustowość 864 GB/s
FP16 (Tensor) 366.0 TFLOPS
FP32 91.6 TFLOPS
TDP 350W
Rok wydania 2023
Segment Centrum danych
Typ pamięci GDDR6

Najlepsze do

Inference fine-tuning video processing AI-accelerated graphics

Najczęściej Zadawane Pytania

Jakiego rabatu mogę się spodziewać na NVIDIA L40S przy cenach spot lub zarezerwowanych?

Spodziewaj się, że cena chmury NVIDIA L40S zaczyna się od $0.55 za godzinę on-demand. Według naszego July 13, 2026 zrzutu, najtańszą opcją on-demand na rynku jest Vast.ai, podczas gdy RunPod oferuje najniższą stawkę spot na poziomie $0.79 za godzinę — oszczędność up to 60% dla zadań tolerujących przerwy. Umowy rezerwacyjne dodają kolejne ~up to 40% zniżki przy rezerwacjach na wiele miesięcy.

Typowe rachunki za miesiąc on-demand sięgają czterocyfrowych kwot przy pełnym wykorzystaniu, dlatego usługi produkcyjne zwykle przechodzą na rezerwacje, a prace eksperymentalne pozostają na on-demand lub spot.

Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.

Jaka jest przepustowość pamięci NVIDIA L40S?

Na pierwszy rzut oka: NVIDIA L40S = architektura Ada Lovelace, 48 GB pamięci GDDR6, przepustowość 864 GB/s, 366 TFLOPS FP16, 91.6 TFLOPS FP32, 350W, 2023.

Te specyfikacje mówią większość historii dla uczenia maszynowego: VRAM ustala górną granicę modelu, przepustowość ogranicza produkcyjne wnioskowanie oparte na uwadze, a TFLOPS decydują o przepustowości treningu wstępnego. NVIDIA L40S zdecydowanie należy do klasy akceleratorów skierowanych na nowoczesne obciążenia transformera — równowaga przepustowości i TFLOPS jest dostosowana do treningu wstępnego z dużą partią i produkcyjnego wnioskowania, a nie do gier.

Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.

NVIDIA L40S rzeczywista wydajność generatywnej AI

366 TFLOPS FP16 i 864 GB/s przepustowości pamięci plasują NVIDIA L40S wyraźnie w klasie akceleratorów przeznaczonych do nowoczesnych obciążeń transformatorowych. FP32 osiąga maksimum 91.6 TFLOPS, co nadal komfortowo obsługuje większość obliczeń naukowych niezwiązanych z AI.

Dla treningu od podstaw przepustowość tokenów mniej więcej odpowiada TFLOPS FP16. Dla produkcyjnego wnioskowania na modelach bazowych przepustowość jest decydująca. Rzeczywiste wartości zależą w dużym stopniu od stosu frameworków (PyTorch, TensorRT-LLM, vLLM) i mogą się różnić o 30-50% w zależności od agresywności kwantyzacji.

The cheapest NVIDIA L40S right now is on Vast.ai at $0.55/hr; Novita AI and Latitude.sh also list it — pick the region and billing that fits your workload.

Który dostawca ma najwięcej regionów NVIDIA L40S?

NVIDIA L40S jest dostępny u 7 dostawców chmurowych GPU: DigitalOcean, Latitude.sh, Massed Compute, Novita AI, RunPod, Vast.ai, and others. Cena startowa za instancję na żądanie wynosi $0.55 za godzinę za pośrednictwem Vast.ai, natomiast pojemność spot zaczyna się od $0.79 za godzinę za pośrednictwem RunPod.

To stosunkowo zatłoczony rynek, co utrzymuje konkurencyjne stawki, ale oznacza też, że różnice na poziomie dostawcy w zakresie wsparcia, dostępności i polityk egress są prawdziwymi kryteriami wyboru. Oferty GPU bezserwerowe (gdzie dostępne) dodatkowo obniżają koszty, rozliczając tylko sekundy inferencji, które faktycznie zużywasz.

Ready to deploy? Vast.ai has NVIDIA L40S from $0.55/hr. Novita AI and Latitude.sh also carry it.

Zastosowania NVIDIA L40S — w czym się wyróżnia?

Optymalny zakres zastosowań dla NVIDIA L40S: Inference, fine-tuning, video processing, AI-accelerated graphics. Te zadania wykorzystują jego 48 GB VRAM i Ada Lovelace architekturę, nie będąc ograniczane przez moc obliczeniową.

Jeśli nadal nie jesteś pewien, czy NVIDIA L40S jest odpowiedni, przetestuj swoje rzeczywiste zadanie na tej karcie — przy cenie $0.55 za godzinę możesz uruchomić testową instancję, wykonać pipeline przez godzinę i podjąć świadomą decyzję na podstawie rzeczywistych danych.

Spin up NVIDIA L40S on Vast.ai for $0.55/hr, with Novita AI and Latitude.sh as strong alternatives — compare and deploy in minutes.

Porównaj z innymi GPU

Zobacz, jak NVIDIA L40S wypada na tle innych popularnych GPU w chmurze pod względem specyfikacji, cen i dostępności.