کلاؤڈ جی پی یو فراہم کنندگان جو اسپاٹ / پری ایمپٹیبل انسٹینسز پیش کرتے ہیں

اسپاٹ اور پری ایمپٹیبل GPU انسٹینسز حقیقت میں کیا ہوتے ہیں

ایک اسپاٹ یا پری ایمپٹیبل GPU انسٹینس فراہم کنندہ کے اضافی وسائل کے پول سے بہت کم قیمت پر کرائے پر لیا جاتا ہے، لیکن ایک اہم شرط کے بدلے: فراہم کنندہ کسی بھی وقت مشین واپس لے سکتا ہے، عام طور پر کم یا بغیر کسی پیشگی اطلاع کے۔ ہارڈویئر وہی ہوتا ہے جو اسی GPU کے آن-ڈیمانڈ ورژن میں ہوتا ہے — وی آر اے ایم، ٹینسر کورز، انٹرکنیکٹ سب ایک جیسے ہوتے ہیں — مگر اس کی دستیابی کے معاہدے میں فرق ہوتا ہے۔ آپ ایسا کمپیوٹ خرید رہے ہیں جو سستا ہے کیونکہ اسے روکا جا سکتا ہے۔ اوپر دی گئی فہرست میں جو بھی فراہم کنندہ اسپاٹ یا پری ایمپٹیبل صلاحیت فراہم کرتا ہے، وہ اس سودے کو کسی نہ کسی شکل میں ظاہر کرتا ہے، اگرچہ نام مختلف ہو سکتے ہیں: اسپاٹ، پری ایمپٹیبل، انٹرپٹیبل، کمیونٹی، یا سرپلس انسٹینسز سب ایک ہی بنیادی خیال کی وضاحت کرتے ہیں۔

یہ رعایت اس لیے موجود ہے کیونکہ ڈیٹا سینٹرز شاذ و نادر ہی 100% استعمال پر چلتے ہیں۔ بے کار GPUs کچھ نہیں کماتے، اس لیے فراہم کنندہ اس اضافی صلاحیت کو معیاری نرخ کے ایک حصے پر بیچ دیتے ہیں اور قبول کرتے ہیں کہ جب کوئی مکمل قیمت والا صارف اسے چاہے یا ان کی اپنی شیڈولنگ کی ضروریات بدلیں تو وہ اسے واپس لے سکتے ہیں۔ کرایہ دار کے لیے اس کا مطلب ہے کہ بچت حقیقی ہے، لیکن اس کے ساتھ آپریشنل ذمہ داریاں آتی ہیں جو آپ کو گارنٹی شدہ آن-ڈیمانڈ نوڈ پر نہیں ہوتیں۔

حقیقی ورک لوڈز کے لیے انٹرپٹیبل قیمتوں کی اہمیت

اسپاٹ صلاحیت کو سمجھنے کی وجہ یہ ہے کہ GPU کرایہ پر لینا مہنگا ہوتا ہے، اور انٹرپٹیبل انسٹینسز پر رعایت اتنی بڑی ہوتی ہے کہ یہ اقتصادی طور پر قابل عمل منصوبوں کو بدل سکتی ہے۔ مسئلہ یہ ہے کہ ہر ورک لوڈ کو درمیان میں ختم کیے جانے کی برداشت نہیں ہوتی۔ فیصلہ کن عنصر تقریباً ہمیشہ یہ ہوتا ہے کہ آپ کا کام چیک پوائنٹس کتنی اچھی طرح محفوظ کرتا ہے اور دوبارہ شروع ہوتا ہے۔

• بہترین موافقت: طویل تربیتی اور فائن ٹیوننگ رنز جو ہر چند منٹ میں چیک پوائنٹس کو پائیدار اسٹوریج پر محفوظ کرتے ہیں، بڑے بیچ-انفرنس یا ایمبیڈنگ کے کام، آف لائن رینڈرنگ، ہائپر پیرامیٹر سویپس جہاں ہر ٹرائل آزاد ہوتا ہے، اور کوئی بھی پائپ لائن جو پہلے سے فالٹ ٹولرنس کے گرد بنی ہو۔
• ناقص موافقت: حقیقی وقت یا کم تاخیر والی انفرنس جو لائیو ایپلیکیشن کو سرو کرتی ہے، انٹرایکٹو ڈیولپمنٹ سیشنز جہاں مشین کھونے کا مطلب غیر محفوظ شدہ کام کا ضیاع ہے، اور سختی سے ہم آہنگ ملٹی-GPU تربیت جو ایک نوڈ کے غائب ہونے پر آرام سے بحال نہیں ہو سکتی۔

ذہنی ماڈل سادہ ہے: اگر انسٹینس کھونے کا مطلب صرف آپ کے آخری چیک پوائنٹ کے بعد کے چند منٹ کا نقصان ہے، تو اسپاٹ تقریباً ہمیشہ صحیح انتخاب ہے۔ اگر اسے کھونے کا مطلب کوئی درخواست، کوئی صارف، یا گھنٹوں کا غیر محفوظ شدہ اسٹیٹ ہے، تو آن-ڈیمانڈ پریمیم آپ کو ذہنی سکون دیتا ہے جس کے لیے ادائیگی کرنا قابلِ قدر ہے۔

تجارت کے پہلو جن پر غور کرنا چاہیے

انٹرپشن واضح لاگت ہے، لیکن یہ واحد نہیں۔ جب آپ فراہم کنندگان کا موازنہ کرتے ہیں تو مکمل تصویر ذہن میں رکھیں:

• واپس لینے کا طریقہ کار: کچھ فراہم کنندگان مختصر ختم کرنے کی اطلاع دیتے ہیں (اکثر چند منٹ) تاکہ آپ کا کام اسٹیٹ محفوظ کر کے صاف طریقے سے بند ہو سکے؛ دوسرے فوراً مشین واپس لے سکتے ہیں۔ ایک رعایتی مدت بہت قیمتی ہوتی ہے کیونکہ یہ آپ کو آخری چیک پوائنٹ شروع کرنے دیتی ہے۔
• دستیابی میں فرق: اسپاٹ پولز میں اتار چڑھاؤ ہوتا ہے۔ وہی GPU جو آپ چاہتے ہیں اور جس قیمت پر دیکھا تھا، کچھ عرصے کے لیے دستیاب نہیں ہو سکتا، اور سب سے زیادہ طلب والے ایکسلریٹرز کو پرانے یا کم مقبول کارڈز کے مقابلے میں زیادہ جارحانہ طور پر واپس لیا جاتا ہے۔
• ایسی اسٹوریج جو انسٹینس سے زیادہ عرصہ زندہ رہے: اگر آپ کے چیک پوائنٹس صرف انسٹینس کے مقامی ڈسک پر ہیں، تو انٹرپشن انہیں مٹا دیتا ہے۔ اسپاٹ صرف اس وقت محفوظ طریقے سے کام کرتا ہے جب آپ کا ڈیٹا اور چیک پوائنٹس مستقل یا نیٹ ورک اسٹوریج پر ہوں جو نوڈ کے ختم ہونے کے بعد بھی برقرار رہے۔
• دوبارہ شروع کرنے کی رکاوٹ: واپس لینے کے بعد آپ کو دوبارہ صلاحیت حاصل کرنی ہوتی ہے، اپنا کنٹینر امیج اور ڈیٹا دوبارہ کھینچنا ہوتا ہے، اور کام دوبارہ شروع کرنا ہوتا ہے — اس لیے سرد آغاز کا وقت اور امیج کا سائز آپ کی مؤثر تھروپٹ اور لاگت کو متاثر کرتے ہیں۔

اسپاٹ صلاحیت کرائے پر لینے سے پہلے کیا چیک کریں

چونکہ ایک ہی لفظ مختلف فراہم کنندگان کے لیے مختلف معنی رکھ سکتا ہے، اس لیے اوپر دی گئی موازنہ کا استعمال کریں تاکہ تفصیلات کی تصدیق کریں بجائے اس کے کہ فرض کر لیں۔ انٹرپٹیبل انسٹینسز پر ورک لوڈ دینے سے پہلے یہ چیک لسٹ مکمل کریں:

• اطلاع کی مدت: کیا فراہم کنندہ واپس لینے سے پہلے آپ کو خبردار کرتا ہے، اور رعایتی مدت کتنی ہے؟ یہاں تک کہ 30–120 سیکنڈ بھی آپ کے چیک پوائنٹنگ کے ڈیزائن کو بدل سکتے ہیں۔
• واپس لینے کی شدت: کیا اسپاٹ مشینیں صرف حقیقی صلاحیت کے دباؤ میں واپس لی جاتی ہیں، یا معمول کے توازن کے لیے بھی؟ بار بار اور کم دباؤ والے واپس لینے سے بچت کم ہو جاتی ہے۔
• چیک پوائنٹ کی سہولت: کیا آپ چیک پوائنٹس کو سستے مستقل یا نیٹ ورک اسٹوریج پر لکھ سکتے ہیں، اور انہیں بازیافت کرنا معقول ہے؟ یہ محفوظ اسپاٹ استعمال کی سب سے اہم سہولت ہے۔
• خودکار دوبارہ حصول: کیا پلیٹ فارم صلاحیت واپس آنے پر آپ کا کام خود بخود دوبارہ قطار میں ڈال کر شروع کر دیتا ہے، یا آپ کو خود اسکرپٹ کرنا پڑتا ہے؟ منظم دوبارہ قطار اسپاٹ کو بہت کم ہاتھ طلب بناتا ہے۔
• ملٹی-GPU اور ملٹی-نوڈ رویہ: اگر آپ کو کئی GPUs ایک ساتھ چاہیے، تو ایک کھونے سے پورا کام رک سکتا ہے۔ چیک کریں کہ فراہم کنندہ گروپ کو ایٹمی طور پر رکھ سکتا ہے یا صرف سنگل-GPU اسپاٹ پیش کرتا ہے۔
• بلنگ کی تفصیل: فی سیکنڈ یا فی منٹ بلنگ اسپاٹ کے ساتھ اچھی طرح میل کھاتی ہے کیونکہ آپ صرف اس وقت کی ادائیگی کرتے ہیں جو آپ نے واقعی چلایا، نہ کہ اوپر گول کر کے۔

ایک عملی طریقہ جو کئی ٹیمیں اپناتی ہیں وہ ہے ہائبرڈ سیٹ اپ: زیادہ تر تھروپٹ پر مبنی، چیک پوائنٹ ایبل کام اسپاٹ پر چلائیں تاکہ رعایت حاصل ہو، جبکہ کوئی چھوٹا سا آن-ڈیمانڈ حصہ رکھیں جو کسی بھی تاخیر حساس یا ریاستی کام کے لیے ہو۔ یہ امتزاج زیادہ تر بچت کو حاصل کرتا ہے بغیر آپ کی پائپ لائن کے ان حصوں کو خطرے میں ڈالے جو واقعی انٹرپشن برداشت نہیں کر سکتے۔

اکثر پوچھے جانے والے سوالات

کیا اسپاٹ GPU انسٹینس واپس لینے پر میرا کام ضائع ہو جائے گا؟

آپ وہ تمام اسٹیٹ کھو دیتے ہیں جو صرف انسٹینس پر موجود ہو اس وقت جب اسے واپس لیا جائے — بشمول غیر محفوظ شدہ پیش رفت اور مقامی ڈسک پر موجود کچھ بھی۔ آپ وہ کام نہیں کھوتے جو آپ نے پہلے ہی مستقل یا نیٹ ورک اسٹوریج پر لکھا ہو۔ اسی لیے بار بار چیک پوائنٹنگ پائیدار اسٹوریج پر اسپاٹ صلاحیت کو محفوظ طریقے سے استعمال کرنے کی بنیادی عادت ہے؛ اچھی چیک پوائنٹنگ کے ساتھ آپ زیادہ سے زیادہ چند منٹ کا نقصان اٹھاتے ہیں جو آپ نے آخری بار محفوظ کیے تھے۔

کیا اسپاٹ اور آن-ڈیمانڈ انسٹینسز پر GPU ہارڈویئر مختلف ہوتا ہے؟

نہیں۔ اسپاٹ اور آن-ڈیمانڈ انسٹینسز ایک ہی فزیکل ہارڈویئر سے آتے ہیں، اس لیے GPU، اس کا VRAM، ٹینسر کورز، اور انٹرکنیکٹ ایک جیسے ہوتے ہیں۔ فرق صرف دستیابی اور قیمت کے معاہدے میں ہے: اسپاٹ سستا لیکن انٹرپٹیبل ہوتا ہے، جبکہ آن-ڈیمانڈ مہنگا ہوتا ہے اور اسے آپ سے واپس نہیں لیا جاتا۔ آپ تیز چپسیلیکن کے لیے نہیں بلکہ گارنٹی شدہ تسلسل کے لیے ادائیگی کر رہے ہیں۔

اسپاٹ انسٹینسز آن-ڈیمانڈ کے مقابلے میں کتنی بچت کر سکتے ہیں؟

رعایت عام طور پر کافی بڑی ہوتی ہے اور انٹرپٹیبل صلاحیت منتخب کرنے کی بنیادی وجہ ہے، لیکن اصل رقم فراہم کنندہ، GPU ماڈل، خطہ، اور موجودہ طلب کے حساب سے مختلف ہوتی ہے اور مسلسل بدلتی رہتی ہے۔ ایک واحد نمبر پر انحصار کرنے کے بجائے، اوپر دی گئی لائیو موازنہ چیک کریں تاکہ آپ جس مخصوص GPU کے لیے چاہتے ہیں اسپاٹ اور آن-ڈیمانڈ کے درمیان موجودہ فرق معلوم ہو۔

کون سے ورک لوڈز کبھی اسپاٹ انسٹینسز پر نہیں چلانے چاہئیں؟

اسپاٹ سے بچیں اگر کوئی کام اچانک غائب ہونے کو برداشت نہیں کر سکتا: لائیو، کم تاخیر والی انفرنس جو پروڈکشن ایپلیکیشن کے پیچھے ہو، انٹرایکٹو سیشنز جن میں غیر محفوظ شدہ کام ہو، اور سختی سے جڑے ہوئے ملٹی-GPU کام جو ایک نوڈ کھونے پر بحال نہیں ہو سکتے۔ ان کے لیے آن-ڈیمانڈ پریمیم قابلِ ادائیگی ہے۔ جو بھی کام صاف چیک پوائنٹ کرتا ہے اور دوبارہ شروع ہونے کو برداشت کرتا ہے — تربیت، فائن ٹیوننگ، بیچ انفرنس، رینڈرنگ، اور سویپس — وہ اسپاٹ کے لیے موزوں ہیں۔