استئجار NVIDIA B100 في السحابة

ملخص الأجهزة لـ NVIDIA B100: معمارية Blackwell، ذاكرة VRAM 192 جيجابايت HBM3e، عرض نطاق ترددي 8,000 جيجابايت/ثانية، تيرافلوبس FP16 1,750، تيرافلوبس FP32 60، استهلاك طاقة حرارية 700 واط، سنة 2024.

تجمع تلك المواصفات NVIDIA B100 بثبات في الجيل الحديث من المسرعات الذكية. ما إذا كانت مناسبة يعتمد على ما إذا كان عنق الزجاجة لديك هو السعة (VRAM)، أو الإنتاجية (عرض النطاق الترددي أو تيرافلوبس)، أو التكلفة — فكل الثلاثة أهم من أي رقم رئيسي منفرد.

Full specs, benchmarks, and comparisons are on the NVIDIA B100 page.

الأداء المقاس على NVIDIA B100: 1,750 تيرافلوبس في FP16، 60 تيرافلوبس في FP32، 8,000 جيجابايت/ثانية عرض النطاق الترددي للذاكرة، 192 جيجابايت ذاكرة فيديو.

بالنسبة لأحمال العمل التي يهتم بها معظم المهندسين — تدريب نماذج عائلة المحولات، خدمة استدلال LLM منخفض الكمون، تشغيل خطوط أنابيب الانتشار والرؤية — تلك المواصفات كافية للحفاظ على أحجام دفعات تبقي نوى التنسور مشغولة. توقع مكاسب في وقت جدار الساعة مقارنة ببطاقات Blackwell من الجيل السابق تتراوح من 1.5x إلى 3x حسب شكل الحمل.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.

NVIDIA B100 هو الأفضل للأحمال التي تتناسب مع ذاكرة الفيديو 192 جيجابايت ونوى التنسور Blackwell الخاصة به: AI training, large-scale inference.

إذا كان حمل عملك يحتاج إلى ذاكرة أكبر بكثير (مثل تدريب نماذج متقدمة من الصفر)، فإن NVIDIA B100 صغير الحجم وستحتاج إلى بطاقة من فئة H100/H200/B200. وإذا كان حمل عملك يحتاج إلى أقل (مثل تقديم خدمات صغيرة النطاق على نماذج بـ 7 مليارات معلمة)، فقد تكون البطاقات الأرخص مثل L4 أو RTX 4090 أكثر كفاءة من حيث التكلفة. بالنسبة للفئة المتوسطة، عادةً ما يكون NVIDIA B100 الخيار المعقول.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.