শূন্য ইগ্রেস ফি সহ ক্লাউড GPU প্রদানকারী

ক্লাউড GPU ভাড়া নেওয়ার সময় “শূন্য ইগ্রেস ফি” আসলে কী বোঝায়

ইগ্রেস হলো সেই ডেটা যা একটি প্রদানকারীর নেটওয়ার্ক থেকে বেরিয়ে যায় — ক্লাউড থেকে আপনার ল্যাপটপে, অন্য ক্লাউডে, বা শেষ ব্যবহারকারীদের কাছে আপনি যে বাইট ডাউনলোড করেন। অনেক অবকাঠামো প্ল্যাটফর্ম এই ট্রাফিক মাপেন এবং প্রতি গিগাবাইটের জন্য বিল করেন, যখন ইনগ্রেস (ডেটা প্রবাহিত হওয়া) এর জন্য খুব কম বা কিছুই চার্জ করেন না। একটি “শূন্য ইগ্রেস” বা “$0 ইগ্রেস” GPU হোস্ট প্রতিশ্রুতি দেয় যে আপনার ডেটা পুনরায় টেনে আনার জন্য অতিরিক্ত কোনো খরচ হবে না, শুধুমাত্র আপনি ইতিমধ্যে ভাড়া নেওয়া কম্পিউটের জন্য। একটি GPU প্ল্যাটফর্মে এটি একটি গুরুত্বপূর্ণ পার্থক্য, কারণ AI এবং রেন্ডারিং ওয়ার্কলোডগুলি আউটগোয়িং ডেটার পরিমাণে অসাধারণভাবে ভারী: মডেল চেকপয়েন্ট, রপ্তানি করা ওজন, রেন্ডার করা ফ্রেম, ব্যাচ ইনফারেন্স ফলাফল, এবং সিন্থেটিক ডেটাসেটগুলি GPU শেষ করার পর কোথাও না কোথাও যেতে হয়।

ইগ্রেস আলাদাভাবে মূল্য নির্ধারণের কারণ হলো পাবলিক ইন্টারনেটে ব্যান্ডউইথ প্রদানকারীদের জন্য একটি প্রকৃত আপস্ট্রিম খরচ। যে প্ল্যাটফর্মগুলো ইগ্রেস ফি নেই বলে বিজ্ঞাপন দেয়, তারা হয় সেই খরচকে ঘণ্টাভিত্তিক GPU রেটে অন্তর্ভুক্ত করে, এমন নেটওয়ার্কে কাজ করে যেখানে ট্রানজিট সস্তা, অথবা অন্তর্ভুক্ত ফ্রি ট্রান্সফারকে তাদের নিজস্ব ব্যাকবোনের মধ্যে থাকা ট্রাফিকের মধ্যে সীমাবদ্ধ রাখে। উপরের তুলনায় প্রতিটি এন্ট্রিতে কোনটি প্রযোজ্য তা পড়াই পুরো খেলা।

কেন ইগ্রেস প্রকৃত GPU ওয়ার্কফ্লোর জন্য গুরুত্বপূর্ণ

GPU এর ঘণ্টাভিত্তিক মূল্য ইনভয়েসে মাত্র একটি লাইন। ডেটা-গভীর কাজের জন্য, ট্রান্সফার চুপচাপ দ্বিতীয় বিল হয়ে উঠতে পারে — এবং কম্পিউটের মতো এটি আগাম পূর্বাভাস দেওয়া কঠিন। ইগ্রেস মূল্যায়ন সবচেয়ে বেশি আঘাত করে এই ধরণের প্যাটার্নে:

• বড় চেকপয়েন্ট রপ্তানি করে এমন প্রশিক্ষণ — বহু-বিলিয়ন প্যারামিটার মডেলগুলি দশ বা শত গিগাবাইট পরিমাপের চেকপয়েন্ট তৈরি করে। যদি আপনি ঘন ঘন স্ন্যাপশট নেন এবং প্রতিটি অফ-প্ল্যাটফর্মে কপি করেন, তবে মিটার করা ইগ্রেস GPU খরচের সমান হতে পারে।
• উচ্চ-থ্রুপুট ব্যাচ ইনফারেন্স — লক্ষ লক্ষ আইটেমের জন্য এমবেডিং, ক্যাপশন, বা রূপান্তরিত মিডিয়া তৈরি করা মানে আউটপুট ভলিউম ইনপুটের চেয়ে অনেক বড় হতে পারে। সেই আউটপুট প্রদানকারীর নেটওয়ার্ক থেকে বেরিয়ে যাওয়ার মুহূর্তে ইগ্রেস।
• রেন্ডারিং এবং ভিডিও — সম্পন্ন ফ্রেম এবং এনকোড করা ভিডিও বড় এবং প্রায়ই স্টোরেজ বা ডেলিভারির জন্য টেনে আনা হয়, যা রেন্ডারিংকে সবচেয়ে ইগ্রেস-সংবেদনশীল GPU ওয়ার্কলোডগুলোর মধ্যে একটি করে তোলে।
• মাল্টি-ক্লাউড এবং হাইব্রিড পাইপলাইন — একটি GPU হোস্ট এবং আলাদা অবজেক্ট স্টোর, ভেক্টর ডাটাবেস, বা সার্ভিং টিয়ারের মধ্যে ডেটাসেট বা মডেল স্থানান্তর প্রতিবার একটি নেটওয়ার্ক সীমানা অতিক্রম করে, এবং প্রতিটি অতিক্রম মিটার করা যেতে পারে।
• বাস্তব ব্যবহারকারীদের কাছে মডেল সার্ভ করা — যদি GPU বক্স নিজেই API অনুরোধের উত্তর দেয়, প্রতিটি রেসপন্স টোকেন বা ক্লায়েন্টকে স্ট্রিম করা ছবি ইগ্রেস।

শূন্য ইগ্রেস বিলের সেই অংশটি সরিয়ে দেয় যা আপনি প্রকৃতপক্ষে ব্যবহার করা ফলাফলের সাথে স্কেল করে। পরীক্ষামূলক কাজে এটি প্রায়ই লক্ষ্যযোগ্য হয় না; উৎপাদন পাইপলাইনে যা প্রতি ঘণ্টায় গিগাবাইট পাঠায়, সেখানে এটি দুইটি প্রদানকারীর মধ্যে পার্থক্য হতে পারে যাদের ঘণ্টাভিত্তিক GPU রেট একই রকম দেখায়।

“কোন ইগ্রেস নেই” এর পেছনের সূক্ষ্ম লিপি

প্রতিটি “ফ্রি ইগ্রেস” দাবী একই জিনিস কভার করে না, এবং তারকার চিহ্নগুলোই যেখানে ক্রেতারা অবাক হন। উপরের এন্ট্রিগুলো তুলনা করার সময়, ঠিক কোনটি প্রদানকারী বোঝায় তা পরীক্ষা করুন:

• সত্যিই মিটারবিহীন পাবলিক ইগ্রেস — খোলা ইন্টারনেটে যেকোনো ডাউনলোড বিনামূল্যে, কোনো প্রতি-গিগাবাইট চার্জ ছাড়াই। এটি সবচেয়ে শক্তিশালী ফর্ম এবং উৎপাদন সার্ভিংয়ের জন্য সবচেয়ে উপযোগী।
• শুধুমাত্র বিনামূল্যে অভ্যন্তরীণ ইগ্রেস — ট্রান্সফার বিনামূল্যে যতক্ষণ এটি প্রদানকারীর নিজস্ব অঞ্চল বা ব্যাকবোনের মধ্যে থাকে, কিন্তু পাবলিক ইন্টারনেট বা অন্য ক্লাউডে যাওয়া এখনও বিলযোগ্য। শুধুমাত্র তখনই উপযোগী যখন আপনার স্টোরেজ এবং কম্পিউট একই বিক্রেতার সাথে থাকে।
• একটি উদার ফ্রি টিয়ার, তারপর মিটার করা — প্রতি মাসে একটি নির্দিষ্ট পরিমাণ বিনামূল্যে গিগাবাইট বা টেরাবাইট, যার পর সাধারণ ইগ্রেস রেট প্রযোজ্য। ছোট কাজের জন্য ঠিক আছে, বড় পরিমাণের জন্য ফাঁদ।
• ব্যান্ডউইথ-ক্যাপড “ফ্রি” — প্রতি গিগাবাইট চার্জ নেই, কিন্তু পোর্ট স্পিড থ্রটল করা হয়, তাই বড় ট্রান্সফার ধীর কিন্তু ব্যয়বহুল নয়। আপনি টাকা নয়, সময়ে পরিশোধ করেন।
• ইগ্রেস ফ্রি কিন্তু স্টোরেজ ইগ্রেস আলাদা — সংযুক্ত ব্লক স্টোরেজ থেকে টানা বিনামূল্যে হতে পারে, যখন আলাদা অবজেক্ট স্টোর থেকে টানা নয়। সীমান্তটি যা বিলযোগ্য।

একটি প্রকৃত ট্রেড-অফ বিবেচনা করতে হবে। একটি প্রদানকারী যে ফ্রি ইগ্রেস অন্তর্ভুক্ত করে তার ঘণ্টাভিত্তিক GPU রেট একটু বেশি হতে পারে, কারণ সেই ব্যান্ডউইথ খরচ কোথাও থাকতে হবে। একটি ইগ্রেস-হালকা ওয়ার্কলোডের জন্য — দীর্ঘ প্রশিক্ষণ রান যা চেকপয়েন্ট রেখে দেয়, অথবা ইন্টারেক্টিভ নোটবুক কাজ — কম ঘণ্টার রেট দিয়ে মিটার করা ইগ্রেস যা আপনি কখনো ব্যবহার করেন না, সামগ্রিকভাবে সস্তা হতে পারে। সঠিক পছন্দ সম্পূর্ণরূপে আপনার আউটপুট-টু-কম্পিউট অনুপাতের উপর নির্ভর করে।

আপনি প্রতিশ্রুতিবদ্ধ হওয়ার আগে কী পরীক্ষা করবেন

• ফ্রি ইগ্রেস পাবলিক ইন্টারনেট ট্রাফিকের জন্য প্রযোজ্য নাকি শুধুমাত্র অন্তঃপ্রদানকারী স্থানান্তরের জন্য।
• ফ্রি বরাদ্দের উপর কোনো মাসিক ক্যাপ এবং তা অতিক্রম করলে প্রতি গিগাবাইটের হার।
• পোর্ট/ব্যান্ডউইথ সীমা, কারণ “ফ্রি কিন্তু ধীর” আপনাকে GPU-ঘণ্টা খরচ করায় যখন ডেটা ড্রেন হয়।
• স্টোরেজ রিট্রিভাল (অবজেক্ট স্টোর পড়া, স্ন্যাপশট রপ্তানি) নেটওয়ার্ক ইগ্রেস থেকে আলাদা ইগ্রেস হিসেবে গণনা করা হয় কি না।
• নীতিটি স্পট বা ইন্টারাপ্টেবল ইনস্ট্যান্স এর সাথে কিভাবে মিথস্ক্রিয়া করে — যখন একটি নোড পুনরুদ্ধার করা হয় তখন দ্রুত ডেটা সরাতে হতে পারে, এবং সময়সীমায় মিটার করা ইগ্রেস কষ্টকর।

উপরের তুলনাটি ইগ্রেসের জন্য পড়া

টেবিল পড়ার আগে আপনার ইগ্রেস অনুমান করুন: প্রতি রান প্ল্যাটফর্ম থেকে প্রায় কত গিগাবাইট বের হয়, তা মাসে কতবার রান হয় তার সাথে গুণ করুন। সেটি উপরের ঘণ্টাভিত্তিক GPU রেটের সাথে জোড়া দিন। শূন্য ইগ্রেস এবং সামান্য বেশি ঘণ্টার মূল্য সহ একটি হোস্ট প্রায়ই উৎপাদন সার্ভিং, ব্যাচ ইনফারেন্স, এবং রেন্ডারিংয়ের জন্য জিতে যায়, যেখানে আউটপুট ভলিউম বেশি এবং পূর্বানুমানযোগ্য। প্রশিক্ষণ-ভারী, আউটপুট-কম কাজের জন্য, প্রথমে কম ঘণ্টার রেট বিবেচনা করুন এবং ইগ্রেসকে দ্বিতীয় ফ্যাক্টর হিসেবে দেখুন। কারণ ব্যান্ডউইথ নীতি এবং দাম পরিবর্তিত হয়, বর্তমান প্রতি ঘণ্টার রেটের জন্য উপরের লাইভ তুলনা ব্যবহার করুন এবং প্রতিটি প্রদানকারীর ইগ্রেস শর্তাবলী এখানে তালিকাভুক্ত পয়েন্টগুলোর সাথে নিশ্চিত করুন।

প্রায়শই জিজ্ঞাসিত প্রশ্ন

“শূন্য ইগ্রেস” মানে আমার সমস্ত ডেটা ট্রান্সফার বিনামূল্যে?

সবসময় নয়। এটি নির্ভরযোগ্যভাবে মানে আউটবাউন্ড ট্রাফিকে কোনো প্রতি-গিগাবাইট চার্জ নেই, কিন্তু কিছু প্রদানকারী এটি তাদের নিজস্ব নেটওয়ার্কের মধ্যে থাকা ট্রাফিকের জন্য সীমাবদ্ধ করে, অথবা মিটারিং শুরু হওয়ার আগে একটি নির্দিষ্ট মাসিক বরাদ্দ অন্তর্ভুক্ত করে। ইনগ্রেস (ইনবাউন্ড ট্রান্সফার) প্রায় সর্বত্র বিনামূল্যে, তাই ইগ্রেস দাবি যাচাই করা গুরুত্বপূর্ণ।

GPU বিলের সাথে ইগ্রেস ফি বাস্তবে কতটা যোগ হতে পারে?

এটি সম্পূর্ণরূপে আউটপুট ভলিউমের উপর নির্ভর করে। কিছু পরীক্ষামূলক নোটবুক নগণ্য ইগ্রেস তৈরি করে, তাই ফি খুব কম। একটি উৎপাদন পাইপলাইন যা বড় চেকপয়েন্ট রপ্তানি করে, ভিডিও রেন্ডার করে, বা ব্যবহারকারীদের মডেল রেসপন্স সার্ভ করে মাসে টেরাবাইটস স্থানান্তর করতে পারে, তখন মিটার করা ইগ্রেস মোটের একটি বড় অংশ হয়ে উঠতে পারে — কখনও কখনও কম্পিউট খরচের কাছাকাছি।

আমি কি সবসময় শূন্য ইগ্রেস প্রদানকারী বেছে নেব?

না। ফ্রি ইগ্রেস কখনও কখনও একটু বেশি ঘণ্টার GPU রেটের সাথে আসে। যদি আপনার ওয়ার্কলোড ডেটা জায়গায় রাখে — দীর্ঘ প্রশিক্ষণ রান, ইন্টারেক্টিভ ডেভেলপমেন্ট — আপনি কম ঘণ্টার রেট এবং মিটার করা ইগ্রেস দিয়ে কম খরচ করতে পারেন যা আপনি খুব কমই ব্যবহার করেন। শূন্য ইগ্রেসকে স্বয়ংক্রিয়ভাবে ভাল বলে না ধরে আপনার আউটপুট-টু-কম্পিউট অনুপাত অনুযায়ী নীতি মিলান।

ফ্রি ইগ্রেস কি কখনও থ্রটল করা হয়?

হ্যাঁ। কিছু প্রদানকারী প্রতি গিগাবাইট চার্জ না নিয়ে পোর্ট স্পিড সীমাবদ্ধ করে, তাই বড় রপ্তানি ধীর কিন্তু ব্যয়বহুল নয়। যেহেতু GPU ক্লক ডেটা ড্রেন হওয়ার সময় চলতে পারে, “ফ্রি কিন্তু ধীর” GPU-ঘণ্টায় প্রকৃত খরচ থাকে। মূল্য নির্ধারণের পাশাপাশি ব্যান্ডউইথ সীমাও সবসময় পরীক্ষা করুন।