NVIDIA · Ada Lovelace Architecture

Оренда NVIDIA L40S в хмарі

Versatile data center GPU balancing AI compute with graphics capabilities. Strong for inference workloads.

VRAM 48 GB GDDR6
Пропускна здатність 864 GB/s
FP16 366.0 TFLOPS
FP32 91.6 TFLOPS
TDP 350W
Архітектура Ada Lovelace
Найдешевше за запитом $0.55/hr
Середня ціна за запитом $0.95/hr
Провайдери 7

Порівняння цін на NVIDIA L40S у хмарі — 7 провайдерів

За запитом

NVIDIA L40S — За запитом pricing
Провайдер Ціна / GPU / год Наявність Примітки Дія
Vast.ai United States $0.55/hr НАЙДЕШЕВШИЙ Available Marketplace avg Відвідати провайдера
Novita AI United States $0.55/hr НАЙДЕШЕВШИЙ Available Відвідати провайдера
Latitude.sh Brazil $0.61/hr Available GPU VM Відвідати провайдера
RunPod United States $0.86/hr Available Secure Cloud Відвідати провайдера
Massed Compute United States $0.86/hr Available Відвідати провайдера
DigitalOcean United States $1.57/hr Available Відвідати провайдера
Vultr United States $1.67/hr Available Відвідати провайдера

Spot / Пріоритетне

NVIDIA L40S — Spot / Пріоритетне pricing
Провайдер Ціна / GPU / год Наявність Примітки Дія
RunPod United States $0.79/hr НАЙДЕШЕВШИЙ Available Community Cloud Відвідати провайдера

Ціни востаннє перевірені: April 13, 2026

Технічні характеристики NVIDIA L40S

Виробник NVIDIA
Архітектура Ада Лавлейс
Відеопам’ять 48 GB GDDR6
Пропускна здатність 864 GB/s
FP16 (Tensor) 366.0 TFLOPS
FP32 91.6 TFLOPS
TDP 350W
Рік випуску 2023
Сегмент Центр обробки даних
Тип пам’яті GDDR6

Найкраще для

Inference fine-tuning video processing AI-accelerated graphics

Часті Питання

Яку знижку можна очікувати на NVIDIA L40S при spot або зарезервованому ціноутворенні?

Очікуйте, що ціна на хмарний NVIDIA L40S починається від $0.55 за годину за тарифом on-demand. За нашим July 14, 2026 знімком, найнижча ціна на ринку за тарифом on-demand — Vast.ai, тоді як RunPod пропонує найнижчу ціну spot — $0.79 за годину — економія up to 60% для робіт, що можуть терпіти переривання. Резервовані контракти додають ще близько ~up to 40% знижки для багатомісячних бронювань.

Типові рахунки за місяць за тарифом on-demand досягають чотиризначних сум при повному завантаженні, через що виробничі сервіси зазвичай переходять на резервовані тарифи, а експериментальні роботи залишаються на on-demand або spot.

Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.

Яка пропускна здатність пам’яті у NVIDIA L40S?

На перший погляд: NVIDIA L40S = архітектура Ada Lovelace, 48 ГБ GDDR6 пам’яті, 864 ГБ/с пропускної здатності, 366 TFLOPS FP16, 91.6 TFLOPS FP32, 350 Вт, 2023.

Ці характеристики розповідають більшість історії для машинного навчання: VRAM встановлює верхню межу моделі, пропускна здатність обмежує продуктивність інференсу з інтенсивною увагою, а TFLOPS визначають пропускну здатність передтренування. NVIDIA L40S належить до класу прискорювачів, орієнтованих на сучасні навантаження трансформерів — баланс пропускної здатності та TFLOPS налаштований на тренування великими пакетами та продуктивний інференс, а не на ігри.

Top cloud providers offering NVIDIA L40S: Vast.ai (from $0.55/hr), Novita AI, and Latitude.sh. Start comparing live rates.

NVIDIA L40S продуктивність генеративного ШІ у реальному світі

366 FP16 TFLOPS і 864 ГБ/с пропускної здатності пам’яті ставлять NVIDIA L40S чітко в клас прискорювачів, орієнтованих на сучасні трансформерні навантаження. FP32 досягає максимуму в 91.6 TFLOPS, що все ще комфортно обробляє більшість наукових обчислень без ШІ.

Для навчання з нуля пропускна здатність токенів приблизно корелює з FP16 TFLOPS. Для продуктивного висновку на фундаментальних моделях пропускна здатність корелює з пропускною здатністю пам’яті. Реальні показники сильно залежать від стеку фреймворків (PyTorch, TensorRT-LLM, vLLM) і можуть варіюватися на 30-50% залежно від ступеня квантизації.

The cheapest NVIDIA L40S right now is on Vast.ai at $0.55/hr; Novita AI and Latitude.sh also list it — pick the region and billing that fits your workload.

Який постачальник має найбільше регіонів NVIDIA L40S?

NVIDIA L40S внесено до списку у 7 провайдерів хмарних GPU: DigitalOcean, Latitude.sh, Massed Compute, Novita AI, RunPod, Vast.ai, and others. Початкова ціна за запитом становить $0.55 за годину через Vast.ai, тоді як спотова потужність починається від $0.79 за годину через RunPod.

Це досить насичений ринок, що підтримує конкурентні тарифи, але також означає, що різниця між провайдерами у підтримці, часі безвідмовної роботи та політиках виходу є справжніми критеріями вибору. Безсерверні GPU-пропозиції (де доступні) додатково знижують вартість, стягуючи плату лише за секунди inference, які ви фактично використовуєте.

Ready to deploy? Vast.ai has NVIDIA L40S from $0.55/hr. Novita AI and Latitude.sh also carry it.

Випадки використання NVIDIA L40S — де він найкраще проявляє себе?

Оптимальний варіант для NVIDIA L40S: Inference, fine-tuning, video processing, AI-accelerated graphics. Ці робочі навантаження добре використовують його 48 ГБ VRAM та Ada Lovelace архітектуру і не обмежуються його обчислювальними можливостями.

Якщо ви все ще не впевнені, чи підходить NVIDIA L40S, протестуйте вашу фактичну роботу на ньому — за $0.55 за годину ви можете запустити тестовий екземпляр, виконати ваш конвеєр протягом години і прийняти обґрунтоване рішення на основі реальних даних.

Spin up NVIDIA L40S on Vast.ai for $0.55/hr, with Novita AI and Latitude.sh as strong alternatives — compare and deploy in minutes.

Порівняти з іншими GPU

Дізнайтеся, як NVIDIA L40S виглядає на фоні інших популярних хмарних GPU за характеристиками, цінами та доступністю.