NVIDIA B100 کتنی تصاویر فی سیکنڈ بنا سکتا ہے؟

جواب

NVIDIA B100 پر بینچ مارک کی گئی کارکردگی: 1,750 TFLOPS FP16 میں، 60 TFLOPS FP32 میں، 8,000 GB/s میموری بینڈوڈتھ، 192 GB VRAM۔

ان کام کے بوجھ کے لیے جو زیادہ تر انجینئرز کو اہمیت دیتے ہیں — ٹرانسفارمر-خاندانی ماڈلز کی تربیت، LLM کم تاخیر انفرنس کی سروس، ڈفیوزن اور وژن پائپ لائنز چلانا — یہ خصوصیات اتنے بڑے بیچ سائز کو برقرار رکھنے کے لیے کافی ہیں جو ٹینسر کورز کو مصروف رکھیں۔ پچھلی نسل کے Blackwell کارڈز کے مقابلے میں وال کلاک میں 1.5x سے 3x تک کی بہتری کی توقع کریں، کام کے بوجھ کی شکل پر منحصر ہے۔

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.