NVIDIA · Ada Lovelace Architecture

کرایہ پر لیں NVIDIA L4 کلاؤڈ میں

Low-power inference accelerator. Excellent performance-per-watt for deploying AI models in production.

VRAM 24 GB GDDR6
بینڈوڈتھ 300 GB/s
FP16 121.0 TFLOPS
FP32 30.3 TFLOPS
TDP 72W
فن تعمیر Ada Lovelace
سب سے سستا آن ڈیمانڈ $0.39/hr
اوسط آن ڈیمانڈ $0.39/hr
فراہم کنندگان 1

NVIDIA L4 کلاؤڈ کی قیمتوں کا موازنہ کریں — 1 فراہم کنندگان

آن ڈیمانڈ

NVIDIA L4 — آن ڈیمانڈ pricing
فراہم کنندہ قیمت / GPU / گھنٹہ دستیابی نوٹس عمل
RunPod United States $0.39/hr سب سے سستا Available Secure Cloud فراہم کنندہ دیکھیں

قیمتیں آخری بار تصدیق شدہ: April 13, 2026

NVIDIA L4 تکنیکی وضاحتیں

بنانے والا NVIDIA
فن تعمیر ایڈا لوویلیس
وی آر اے ایم 24 GB GDDR6
بینڈوڈتھ 300 GB/s
FP16 (ٹینسر) 121.0 TFLOPS
FP32 30.3 TFLOPS
ٹی ڈی پی 72W
ریلیز کا سال 2023
طبقہ ڈیٹا سینٹر
میموری کی قسم GDDR6

بہترین برائے

Inference video transcoding lightweight AI workloads

اکثر پوچھے گئے سوالات

NVIDIA L4 کے لیے سب سے سستا فی گھنٹہ ریٹ کیا ہے؟

ہم جو بہترین قیمت والا کلاؤڈ NVIDIA L4 ریٹ ٹریک کرتے ہیں وہ $0.39 فی گھنٹہ ہے RunPod پر۔ یہ ریٹ آن-ڈیمانڈ بلنگ کی عکاسی کرتا ہے؛ وہ فراہم کنندگان جو اسپاٹ/پری ایمپٹیبل انسٹینسز کی حمایت کرتے ہیں، فرش کو فی گھنٹہ تک نیچے لے آتے ہیں — تقریباً up to 60% کی بچت ان ورک لوڈز کے لیے جو مداخلت برداشت کر سکتے ہیں۔

اگر آپ ریزروڈ کیپیسٹی کے لیے پابند ہو سکتے ہیں، تو مزید up to 40% کی چھوٹ کی توقع کریں۔ ایڈ ہاک تجربات کے لیے ہم آن-ڈیمانڈ کی سفارش کرتے ہیں؛ کئی دنوں کی پری ٹریننگ کے بجٹ کے لیے اسپاٹ اور آن-ڈیمانڈ کا مرکب بہتر ہے۔ گھنٹہ وار کوٹس ہفتہ وار بدل سکتے ہیں کیونکہ فراہم کنندگان مقابلہ کرتے ہیں، اس لیے طویل رن سے پہلے لائیو ٹیبل چیک کریں۔

The cheapest NVIDIA L4 cloud access right now is on RunPod at $0.39/hr.

NVIDIA L4 کی FP16 کی چوٹی کی کارکردگی کیا ہے؟

2023 میں ریلیز ہوا، NVIDIA L4 ایک Ada Lovelace-کلاس ایکسلریٹر ہے جس میں 24 جی بی GDDR6، 300 جی بی/سیکنڈ میموری بینڈوڈتھ، اور 121 FP16 TFLOPS کمپیوٹ ہے۔ FP32 کی چوٹی 30.3 TFLOPS ہے اور کارڈ 72 واٹ تک پاور لیتا ہے۔

عملی اصطلاحات میں: کافی وی آر اے ایم تاکہ ماڈلز کو ~24B-پیرا میٹر رینج میں FP16 میں لوڈ کیا جا سکے (کوانٹائزیشن کے ساتھ بڑا)، اتنی بینڈوڈتھ کہ اٹینشن لیئرز کو میموری کی کمی سے بچایا جا سکے، اور اتنا کمپیوٹ کہ ٹرانسفارمرز کو ایسے بیچ سائزز پر ٹرین کیا جا سکے جو جدید آپٹیمائزرز کو مکمل طور پر استعمال کرتے ہیں۔

Get NVIDIA L4 on RunPod starting at $0.39/hr — live pricing and fast provisioning.

NVIDIA L4 متعدد GPUs پر کتنی اچھی طرح اسکیل ہوتی ہے؟

121 FP16 TFLOPS اور 300 GB/s میموری بینڈوڈتھ NVIDIA L4 کو جدید ٹرانسفارمر کاموں کے لیے مخصوص ایکسلریٹرز کی کلاس میں رکھتی ہے۔ FP32 30.3 TFLOPS تک محدود ہے، جو زیادہ تر غیر AI سائنسی کمپیوٹ کو آرام سے سنبھالتا ہے۔

شروع سے تربیت کے لیے، ٹوکن تھروپٹ تقریباً FP16 TFLOPS کے مطابق ہوتا ہے۔ فاؤنڈیشن ماڈلز پر پروڈکشن انفرنس کے لیے، تھروپٹ بینڈوڈتھ کے مطابق ہوتا ہے۔ حقیقی دنیا کے اعداد و شمار فریم ورک اسٹیک (PyTorch, TensorRT-LLM, vLLM) پر بہت منحصر ہوں گے، اور کوانٹائزیشن کی شدت کے مطابق 30-50٪ تک مختلف ہو سکتے ہیں۔

The cheapest NVIDIA L4 cloud access right now is on RunPod at $0.39/hr.

NVIDIA L4 کے لیے قیمت کے لحاظ سے بہترین فراہم کنندگان

اگر آپ NVIDIA L4 کیپیسٹی کی خریداری کر رہے ہیں، تو یہ نقشہ دیکھیں: RunPod. 1 ٹریک کیے گئے فراہم کنندگان میں، سب سے کم قیمت والا آن-ڈیمانڈ فراہم کنندہ RunPod ہے جو $0.39 فی گھنٹہ پر دستیاب ہے؛ سب سے کم قیمت والا اسپاٹ فراہم کنندہ ہے جو فی گھنٹہ پر دستیاب ہے۔

استعمال کے کیسز فراہم کنندہ کے انتخاب کو متاثر کرتے ہیں۔ مختصر تجرباتی رنز فی سیکنڈ بل کرنے والے فراہم کنندگان پر سب سے بہتر فٹ ہوتے ہیں۔ طویل ٹریننگ رنز کو بیئر میٹل وینڈرز پر ریزروڈ کیپیسٹی سے فائدہ ہوتا ہے۔ پروڈکشن انفرینس سروسز ایسے فراہم کنندگان کو ترجیح دیتی ہیں جن کی عالمی علاقائی موجودگی اور انٹرپرائز SLA ہو۔

The cheapest NVIDIA L4 cloud access right now is on RunPod at $0.39/hr.

NVIDIA L4 کون سے کام کے بوجھ کو بہترین طریقے سے سنبھالتا ہے؟

NVIDIA L4 ان ورک لوڈز کے لیے بہترین ہے جہاں اس کی 24 GB VRAM اور Ada Lovelace ٹینسر کورز اچھی طرح میل کھاتے ہیں: Inference, video transcoding, lightweight AI workloads۔

اگر آپ کے ورک لوڈ کو نمایاں طور پر زیادہ میموری کی ضرورت ہے (مثلاً، فرنٹیئر اسکیل ماڈلز کو ابتدا سے تربیت دینا)، تو NVIDIA L4 چھوٹا ہے اور آپ کو H100/H200/B200 کلاس کارڈ چاہیے ہوگا۔ اگر آپ کے ورک لوڈ کو کم میموری چاہیے (مثلاً، 7B-پیرا میٹر ماڈلز پر چھوٹے پیمانے پر سروسنگ)، تو سستے کارڈز جیسے L4 یا RTX 4090 زیادہ اقتصادی ہو سکتے ہیں۔ درمیانے بینڈ کے لیے، NVIDIA L4 عام طور پر معقول انتخاب ہوتا ہے۔

Rent NVIDIA L4 on RunPod from $0.39/hr — check live availability and deploy.

دیگر GPUs کے ساتھ موازنہ کریں

دیکھیں کہ NVIDIA L4 دیگر مقبول کلاؤڈ GPUs کے مقابلے میں اسپیکس، قیمتوں، اور دستیابی میں کیسے کھڑا ہے۔