کرایہ پر لیں NVIDIA B100 کلاؤڈ میں

NVIDIA B100 کے لیے ہارڈویئر خلاصہ: آرکیٹیکچر Blackwell، وی آر اے ایم 192 جی بی HBM3e، بینڈوڈتھ 8,000 جی بی/سیکنڈ، FP16 1,750 TFLOPS، FP32 60 TFLOPS، ٹی ڈی پی 700 واٹ، سال 2024۔

یہ اسپیکس NVIDIA B100 کو جدید AI ایکسلریٹرز کی نسل میں مضبوطی سے شامل کرتے ہیں۔ یہ کہ آیا یہ آپ کے لیے مناسب ہے، اس کا انحصار اس بات پر ہے کہ آپ کی رکاوٹ کیا ہے: گنجائش (وی آر اے ایم)، تھروپٹ (بینڈوڈتھ یا TFLOPS)، یا لاگت — تینوں ہی کسی ایک بڑے عدد سے زیادہ اہم ہیں۔

Full specs, benchmarks, and comparisons are on the NVIDIA B100 page.

NVIDIA B100 پر بینچ مارک کی گئی کارکردگی: 1,750 TFLOPS FP16 میں، 60 TFLOPS FP32 میں، 8,000 GB/s میموری بینڈوڈتھ، 192 GB VRAM۔

ان کام کے بوجھ کے لیے جو زیادہ تر انجینئرز کو اہمیت دیتے ہیں — ٹرانسفارمر-خاندانی ماڈلز کی تربیت، LLM کم تاخیر انفرنس کی سروس، ڈفیوزن اور وژن پائپ لائنز چلانا — یہ خصوصیات اتنے بڑے بیچ سائز کو برقرار رکھنے کے لیے کافی ہیں جو ٹینسر کورز کو مصروف رکھیں۔ پچھلی نسل کے Blackwell کارڈز کے مقابلے میں وال کلاک میں 1.5x سے 3x تک کی بہتری کی توقع کریں، کام کے بوجھ کی شکل پر منحصر ہے۔

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.

NVIDIA B100 ان ورک لوڈز کے لیے بہترین ہے جہاں اس کی 192 GB VRAM اور Blackwell ٹینسر کورز اچھی طرح میل کھاتے ہیں: AI training, large-scale inference۔

اگر آپ کے ورک لوڈ کو نمایاں طور پر زیادہ میموری کی ضرورت ہے (مثلاً، فرنٹیئر اسکیل ماڈلز کو ابتدا سے تربیت دینا)، تو NVIDIA B100 چھوٹا ہے اور آپ کو H100/H200/B200 کلاس کارڈ چاہیے ہوگا۔ اگر آپ کے ورک لوڈ کو کم میموری چاہیے (مثلاً، 7B-پیرا میٹر ماڈلز پر چھوٹے پیمانے پر سروسنگ)، تو سستے کارڈز جیسے L4 یا RTX 4090 زیادہ اقتصادی ہو سکتے ہیں۔ درمیانے بینڈ کے لیے، NVIDIA B100 عام طور پر معقول انتخاب ہوتا ہے۔

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.