بہترین کلاؤڈ جی پی یو فراہم کنندگان NVIDIA H100 کے ساتھ

SXM بمقابلہ PCIe — آپ جو ورژن کرایہ پر لیتے ہیں وہ اہم ہے

یہ کرایہ پر لیتے وقت سب سے زیادہ نظر انداز کی جانے والی تفصیل ہے۔ SXM5 بورڈز زیادہ بینڈوڈتھ، مکمل NVLink/NVSwitch فبریک، اور زیادہ مستحکم کلاک فراہم کرتے ہیں، اسی لیے سنجیدہ ملٹی-GPU تربیت تقریباً ہمیشہ انہی کا استعمال کرتی ہے۔ PCIe کارڈز ہوسٹنگ کے لیے سستے اور سنگل-GPU انفرنس یا چھوٹے کاموں کے لیے مناسب ہوتے ہیں، لیکن ان کے انٹر-GPU لنکس سست ہوتے ہیں۔ اگر اوپر دی گئی فہرست میں ورژن نہیں بتایا گیا تو ملٹی-GPU تربیت شروع کرنے سے پہلے یہ سوال حل کریں۔

کرایہ کی قیمت، دستیابی، اور قلت

کلاؤڈ GPU کی قیمت کے لحاظ سے، H100 اوپر کی طرف ہے — A100 سے اوپر اور صارفین کے کارڈز جیسے RTX 4090 سے بہت اوپر — اگرچہ اسے نئے Blackwell-کلاس ہارڈویئر نے سب سے اوپر کی جگہ سے ہٹا دیا ہے۔ چونکہ قیمتیں مسلسل تبدیل ہوتی رہتی ہیں اور فراہم کنندہ، خطہ، معاہدے کی مدت، اور ورژن کے لحاظ سے مختلف ہوتی ہیں، اس لیے آپ کو اوپر دی گئی موازنہ سے تازہ اعداد و شمار دیکھنے چاہئیں نہ کہ کسی مقررہ قیمت پر بھروسہ کرنا چاہیے۔ چند معیاری نکات مستقل رہتے ہیں:

• آن-ڈیمانڈ بمقابلہ اسپاٹ: انٹرپٹیبل یا اسپاٹ H100 صلاحیت آن-ڈیمانڈ سے کافی سستی ہو سکتی ہے، جو چیک پوائنٹ شدہ تربیت اور فالٹ ٹولرینٹ بیچ انفرنس کے لیے مناسب ہے، لیکن لمبے سنگل شاٹ کاموں کے لیے خطرناک ہے جہاں اچھے چیک پوائنٹنگ نہ ہو۔
• قلت: H100 کی فراہمی تاریخی طور پر محدود رہی ہے، اس لیے دستیابی — صرف قیمت نہیں — خطہ اور فراہم کنندہ کے لحاظ سے مختلف ہوتی ہے۔ سب سے سستا اشتہار بے کار ہے اگر آپ کے خطے میں صلاحیت ختم ہو چکی ہو۔
• فی-GPU بمقابلہ مکمل نوڈ: بہت سے فراہم کنندہ ایک H100 کرایہ پر دیتے ہیں، لیکن بہترین ملٹی-GPU کارکردگی مکمل 8-GPU NVLink نوڈز سے آتی ہے؛ چیک کریں کہ آپ کو کس قسم کی رسائی مل رہی ہے: جزوی، واحد، یا مکمل نوڈ۔
• بلنگ کی تفصیل: فی سیکنڈ یا فی منٹ بلنگ چھوٹے فائن ٹیونز اور بریک انفرنس کے لیے بہتر ہے؛ گھنٹہ وار کم از کم بلنگ لمبے کاموں کے لیے مناسب ہے۔ ماڈل کو اپنے ورک لوڈ کے پیٹرن کے مطابق منتخب کریں۔

اکثر پوچھے جانے والے سوالات

کلاؤڈ H100 میں کتنی VRAM ہوتی ہے؟

مین اسٹریم H100 میں 80 GB ہائی بینڈوڈتھ میموری ہوتی ہے — SXM5 ورژن پر HBM3 اور PCIe ورژن پر HBM2e۔ بعد میں H100 NVL ریفریش فی کارڈ صلاحیت بڑھاتا ہے۔ ہمیشہ اوپر دی گئی فہرست میں درست ورژن اور میموری کی مقدار کی تصدیق کریں، کیونکہ یہی تعین کرتا ہے کہ آپ بغیر آف لوڈنگ کے سب سے بڑا ماڈل اور بیچ سائز چلا سکتے ہیں۔

کیا H100 کرایہ پر لینا A100 کے مقابلے میں فائدہ مند ہے؟

ٹرانسفارمر تربیت اور انفرنس کے لیے، عموماً ہاں: Hopper کی FP8 سپورٹ اور ٹرانسفارمر انجن Ampere کے A100 کے مقابلے میں فی GPU نمایاں طور پر زیادہ تھروپٹ فراہم کر سکتے ہیں، جو اکثر فی ٹوکن یا فی قدم کی قیمت پر زیادہ گھنٹہ وار نرخ کو پورا کر لیتے ہیں۔ چھوٹے یا کم میموری والے کاموں کے لیے جو FP8 کا فائدہ نہیں اٹھاتے، سستا A100 یا صارفین کا کارڈ بہتر قیمت ہو سکتا ہے۔

کیا مجھے SXM5 یا PCIe H100 منتخب کرنا چاہیے؟

ملٹی-GPU تربیت اور قریبی منسلک تقسیم شدہ کاموں کے لیے SXM5 منتخب کریں، کیونکہ اس کا NVLink/NVSwitch فبریک اور زیادہ بینڈوڈتھ GPUs کے درمیان بہتر اسکیلنگ فراہم کرتا ہے۔ PCIe سنگل-GPU انفرنس یا چھوٹے کاموں کے لیے ٹھیک اور اکثر سستا ہوتا ہے۔ اگر ورژن نہیں بتایا گیا تو ملٹی-GPU رن بک کرنے سے پہلے پوچھیں۔

کیا میں اسپاٹ یا انٹرپٹیبل H100 انسٹنسز کے ساتھ پیسے بچا سکتا ہوں؟

ہاں، انٹرپٹیبل صلاحیت عام طور پر آن-ڈیمانڈ سے کافی سستی ہوتی ہے، اور یہ بار بار چیک پوائنٹس والی تربیت یا بیچ انفرنس کے لیے اچھی ہے جو ری اسٹارٹ برداشت کر سکتی ہے۔ لمبے، بغیر چیک پوائنٹ کے کاموں کے لیے اس سے بچیں جہاں دوران کام نکالنا گھنٹوں کی ادائیگی شدہ کمپیوٹنگ ضائع کر سکتا ہے۔ دونوں قیمتوں کے طریقوں کا موازنہ اوپر دی گئی جدول میں کریں۔