ক্লাউড GPU প্রদানকারী যারা স্থায়ী স্টোরেজ প্রদান করে

ক্লাউড GPU ভাড়া নেওয়ার সময় স্থায়ী স্টোরেজ কী বোঝায়

ডিফল্টরূপে, একটি ভাড়া নেওয়া GPU ইনস্ট্যান্স আপনাকে একটি কাজের ডিস্ক দেয় যা ইনস্ট্যান্সের সাথে জীবিত থাকে এবং মরে যায়। আপনি যেই মুহূর্তে সেই মেশিনটি বন্ধ, ধ্বংস বা প্রিম্পটেড করেন, স্থানীয় ডিস্ক মুছে ফেলা হয় এবং ডেটা চলে যায়। স্থায়ী স্টোরেজ সেই সংযোগ ভেঙে দেয়: এটি একটি স্টোরেজ ভলিউম যার আয়ু কোনও একক GPU ইনস্ট্যান্সের থেকে স্বাধীন, তাই আপনার ডেটাসেট, মডেল চেকপয়েন্ট, কন্ডা এনভায়রনমেন্ট এবং ক্যাশ করা ওজন শাটডাউন সত্ত্বেও টিকে থাকে এবং পরবর্তী মেশিনে পুনরায় সংযুক্ত হয় যা আপনি চালু করেন। উপরের তুলনায় থাকা প্রদানকারীরা সবাই এর কিছু না কিছু রূপ অফার করে, কিন্তু বাস্তবায়ন এতটাই ভিন্ন যে “হ্যাঁ” শুধুমাত্র উত্তর শুরু মাত্র।

প্র্যাকটিসে, স্থায়ী স্টোরেজ দুইটি প্রধান রূপে দেখা যায়। প্রথমটি হলো নেটওয়ার্ক ভলিউম (ব্লক বা ফাইল সিস্টেম স্টোরেজ) যা আপনি প্রদানকারীর অভ্যন্তরীণ নেটওয়ার্কের মাধ্যমে মাউন্ট করেন এবং যেকোনো GPU নোডে সংযুক্ত করতে পারেন। দ্বিতীয়টি হলো অবজেক্ট স্টোরেজ (S3-সঙ্গত বালতি) যা আপনি কাজ শুরু করার সময় থেকে টানেন এবং ফলাফল ফিরে পাঠান। কিছু প্রদানকারী দ্রুত স্থানীয় NVMe পুলে একটি স্থায়ী হোম ডিরেক্টরি রাখে যা কম্পিউট লাইফসাইকেল থেকে আলাদা। প্রতিটি পারফরম্যান্স, লেটেন্সি এবং ট্রেনিং লুপে সংযুক্তির দিক থেকে ভিন্নভাবে আচরণ করে।

বাস্তব GPU ওয়ার্কফ্লোর জন্য এর গুরুত্ব

স্থায়ী স্টোরেজ কেন গুরুত্বপূর্ণ তা হলো GPU সময় একটি ব্যয়বহুল সম্পদ এবং আপনি ডেটা পুনরায় ডাউনলোড এবং পুনরায় প্রস্তুত করতে চান না। স্পষ্টভাবে, এটি এই ওয়ার্কফ্লোগুলো পরিবর্তন করে:

• দীর্ঘ ট্রেনিং এবং ফাইন-টিউনিং রান কয়েকশো ধাপে ধাপে চেকপয়েন্ট লিখে। যদি সেই চেকপয়েন্ট শুধুমাত্র ক্ষণস্থায়ী ডিস্কে থাকে, তাহলে নোড ক্র্যাশ বা প্রিম্পশন হলে শূন্য থেকে পুনরায় শুরু করতে হয়। স্থায়ী স্টোরেজ আপনাকে শেষ চেকপয়েন্ট থেকে নতুন GPU-তে পুনরায় শুরু করতে দেয়।
• স্পট এবং ইন্টারাপ্টেবল ইনস্ট্যান্স সত্যিকার অর্থে ব্যবহারযোগ্য হয়ে ওঠে। সস্তা প্রিম্পটেবল GPU-র পুরো অর্থনীতি নির্ভর করে কাজ হারানো ছাড়াই নোড হারানোর উপর — যা শুধুমাত্র তখনই সম্ভব যখন আপনার স্টেট এমন একটি ভলিউমে থাকে যা ইনস্ট্যান্সের থেকে দীর্ঘস্থায়ী।
• বড় ডেটাসেট (মাল্টি-হান্ড্রেড-GB ইমেজ, ভিডিও, বা টোকেন কর্পাস) প্রতিটি লঞ্চে পুনরায় স্টেজ করা কষ্টকর। একটি স্থায়ী ভলিউম প্রস্তুত, শার্ড করা ডেটা ধরে রাখে যাতে প্রতিটি নতুন সেশন কয়েক সেকেন্ডের মধ্যে শুরু হয়, দীর্ঘ কপি করার পর নয়।
• ইটারেটিভ ডেভেলপমেন্ট একটি স্থিতিশীল হোম ডিরেক্টরির থেকে উপকৃত হয়: আপনার এনভায়রনমেন্ট, ইনস্টল করা প্যাকেজ, ক্যাশ করা হাগিং ফেস ওজন এবং নোটবুকগুলো আগামীকালও থাকবে, কন্টেইনার ইমেজ থেকে পুনর্নির্মাণ ছাড়াই।
• ইনফারেন্স সার্ভিং সংযুক্ত স্টোরেজে মডেল ওজন গরম রাখতে পারে যাতে একটি স্কেল-আপ করা রেপ্লিকা দ্রুত লোড হয়, দূরবর্তী বালতি থেকে দশেরও বেশি GB টানার পরিবর্তে ঠান্ডা স্টার্টে।

বিবেচনা করার ট্রেড-অফসমূহ

স্থায়ী স্টোরেজ বিনামূল্যে নয় এবং প্রদানকারীদের মধ্যে পার্থক্য সাধারণত এই ট্রেড-অফগুলোর মধ্যে থাকে, ফিচারটির অস্তিত্বের মধ্যে নয়।

• আপনি যখন এটি ব্যবহার করছেন তখনও এর জন্য অর্থ প্রদান করতে হয়। GPU বন্ধ করলে কম্পিউট বিলিং বন্ধ হয়, কিন্তু একটি স্থায়ী ভলিউম ক্ষমতার জন্য (সাধারণত GB-মাস প্রতি) বিলিং চালিয়ে যায়, GPU সংযুক্ত থাকুক বা না থাকুক। প্রকল্পগুলোর মধ্যে বড় ভলিউম রেখে দিলে এটি একটি নীরব পুনরাবৃত্তি চার্জ হয়ে যায়।
• অঞ্চল এবং জোন পিনিং। একটি নেটওয়ার্ক ভলিউম সাধারণত একটি অঞ্চল বা ডেটা সেন্টারে থাকে। আপনি যদি যেই ধরনের GPU চান তা অন্য অঞ্চলে পাওয়া যায়, তাহলে হয়তো আপনি সেখানে আপনার ভলিউম সংযুক্ত করতে পারবেন না — এবং এটি স্থানান্তর করলে ইগ্রেস বা কপি সময় লাগতে পারে।
• থ্রুপুট এবং লেটেন্সি ব্যাপকভাবে পরিবর্তিত হয়। স্থানীয় NVMe স্ক্র্যাচ গিগাবাইট প্রতি সেকেন্ড দিতে পারে; একটি নেটওয়ার্ক ফাইল সিস্টেম অনেক ধীর হতে পারে এবং ডেটা-ক্ষুধার্ত ট্রেনিং লুপে বোতলনেক সৃষ্টি করতে পারে। উচ্চ-থ্রুপুট ডেটা পাইপলাইনের জন্য এই ফারাক ক্ষমতার চেয়ে বেশি গুরুত্বপূর্ণ।
• সমান্তরাল সীমাবদ্ধতা। কিছু ব্লক ভলিউম এক সময়ে শুধুমাত্র একটি ইনস্ট্যান্সে সংযুক্ত হতে পারে, যখন শেয়ার্ড ফাইল সিস্টেম এবং অবজেক্ট স্টোরেজ অনেক পাঠকের অনুমতি দেয়। মাল্টি-নোড ট্রেনিং সাধারণত একটি শেয়ার্ড ফাইল সিস্টেম বা অবজেক্ট স্টোরের প্রয়োজন, একক সংযুক্ত ব্লক ডিভাইস নয়।
• ইগ্রেস এবং ট্রান্সফার ফি। একই প্রদানকারী অঞ্চলের ভিতরে পড়া সাধারণত সস্তা, কিন্তু ডেটা আপনার ল্যাপটপ বা অন্য ক্লাউডে টানলে ইগ্রেস চার্জ হতে পারে যা স্টোরেজ খরচকে ছাড়িয়ে যায়।

উপরের তুলনায় কী পরীক্ষা করবেন

যখন আপনি উপরের তালিকাটি স্থায়ী স্টোরেজ সমর্থনকারী প্রদানকারীদের শর্টলিস্ট হিসেবে পড়েন, “হ্যাঁ” কে সমান ধরে না নিয়ে বিস্তারিত দেখুন:

1. ভলিউমের ধরন এবং থ্রুপুট — এটি ব্লক, নেটওয়ার্ক ফাইল সিস্টেম, না অবজেক্ট স্টোরেজ, এবং ট্রেনিং লোডের অধীনে এর প্রকৃত রিড/রাইট ব্যান্ডউইথ কত?
2. মূল্য নির্ধারণের মডেল — ভলিউমের জন্য GB-মাস প্রতি, এবং GPU সংযুক্ত না থাকলেও আপনি কি অর্থ প্রদান চালিয়ে যাবেন?
3. অঞ্চল সংযুক্তি — ভলিউমটি কি আপনি আসলেই প্রয়োজন এমন GPU টাইপ এবং অঞ্চলে সংযুক্ত হতে পারে, স্পট ক্যাপাসিটি সহ?
4. ক্ষমতা এবং সীমাবদ্ধতা — সর্বোচ্চ ভলিউম সাইজ, স্ন্যাপশট সমর্থন, এবং এটি কি একাধিক নোডের মধ্যে শেয়ার করা যায়?
5. ইগ্রেস শর্তাবলী — ডেটা বাইরে নিয়ে যাওয়ার খরচ কত, কারণ এটি প্রায়ই স্টোরেজ লাইনের আইটেমের চেয়ে মোট খরচ নির্ধারণ করে।

এই উত্তরগুলো আপনার ওয়ার্কলোডের সাথে মিলান: একটি দীর্ঘ ফাইন-টিউন নির্ভরযোগ্য চেকপয়েন্ট স্থায়িত্ব এবং পুনরায় শুরু চায়; একটি ভারী ডেটা পাইপলাইন কাঁচা থ্রুপুট চায়; একটি সার্ভারলেস বা অটোস্কেলিং ইনফারেন্স ফ্লিট দ্রুত শেয়ার্ড রিড চায় গরম ওজনের। সঠিক প্রদানকারী হল যাঁর স্থায়ী স্টোরেজ রূপ আপনার প্রধান প্যাটার্নের সাথে মানানসই।

প্রায়শই জিজ্ঞাসিত প্রশ্ন

GPU ইনস্ট্যান্স বন্ধ করলে কি স্থায়ী স্টোরেজ আমার ডেটা রাখে?

হ্যাঁ — সেটাই এর উদ্দেশ্য। একটি স্থায়ী ভলিউম কম্পিউট ইনস্ট্যান্স থেকে আলাদা, তাই GPU নোড বন্ধ বা ধ্বংস করলে ভলিউম এবং এর বিষয়বস্তু অক্ষত থাকে। আপনি এটি পরবর্তী ইনস্ট্যান্সে পুনরায় সংযুক্ত করেন। শুধু মনে রাখবেন ভলিউমটি সাধারণত বিদ্যমান থাকা অবস্থায় ক্ষমতার জন্য চার্জ চালিয়ে যায়, GPU না চললেও।

GPU ভাড়ার মূল্যে কি স্থায়ী স্টোরেজ অন্তর্ভুক্ত?

সাধারণত নয়। ঘণ্টাভিত্তিক GPU রেট কম্পিউট এবং একটি বেস ক্ষণস্থায়ী ডিস্ক কভার করে, যখন স্থায়ী ভলিউম আলাদাভাবে ক্ষমতার জন্য বিল করা হয়, সাধারণত GB প্রতি মাসে। মোট খরচ অনুমান করার সময় স্টোরেজকে আলাদা লাইন আইটেম হিসেবে বিবেচনা করুন এবং উপরের লাইভ তুলনায় প্রতিটি প্রদানকারী কীভাবে মূল্য নির্ধারণ করে তা পরীক্ষা করুন।

আমি কি সস্তা স্পট বা ইন্টারাপ্টেবল GPU-র সাথে স্থায়ী স্টোরেজ ব্যবহার করতে পারি?

এটাই এর অন্যতম সেরা কারণ। কারণ ভলিউম একক নোডের থেকে দীর্ঘস্থায়ী, আপনি স্পট ইনস্ট্যান্স থেকে প্রিম্পটেড হতে পারেন, কিছুই হারান না, এবং নতুন মেশিনে শেষ চেকপয়েন্ট থেকে পুনরায় শুরু করতে পারেন। নিশ্চিত করুন যে প্রদানকারী একই অঞ্চলে স্পট ক্যাপাসিটির সাথে ভলিউম সংযুক্ত করার অনুমতি দেয় যেখানে সেই GPU গুলো পাওয়া যায়।

স্থায়ী স্টোরেজ এবং S3-এর মতো অবজেক্ট স্টোরেজের মধ্যে পার্থক্য কী?

অবজেক্ট স্টোরেজ ডেটা স্থায়ী করার একটি উপায়, কিন্তু আপনি এটি বালতি এবং অবজেক্ট হিসেবে API এর মাধ্যমে পড়েন এবং লেখেন, স্থানীয় ডিস্ক হিসেবে মাউন্ট করেন না। একটি স্থায়ী ব্লক বা ফাইল সিস্টেম ভলিউম সংযুক্ত ড্রাইভের মতো আচরণ করে যা আপনার কোড সরাসরি পড়ে। অবজেক্ট স্টোরেজ বিশাল আকারে স্কেল করে এবং অনেক নোডের মধ্যে শেয়ারযোগ্য; মাউন্ট করা ভলিউম সাধারণত একটি সক্রিয় ট্রেনিং লুপের জন্য কম লেটেন্সি দেয়। অনেক ওয়ার্কফ্লো উভয়ই ব্যবহার করে — ঠান্ডা আর্কাইভের জন্য বালতি, লাইভ ওয়ার্কিং সেটের জন্য মাউন্ট করা ভলিউম।