শূন্য ইগ্রেস ফি সহ ক্লাউড GPU প্রদানকারী
ইগ্রেস ফি — ক্লাউড থেকে ডেটা স্থানান্তরের জন্য চার্জ — মডেল ওজন রপ্তানি, ইনফারেন্স ফলাফল পরিবেশন, বা প্রদানকারীদের মধ্যে ডেটাসেট স্থানান্তরের সময় উল্লেখযোগ্য অপ্রত্যাশিত খরচ যোগ করতে পারে। শূন্য ইগ্রেস ফি সহ প্রদানকারীরা পূর্বানুমানযোগ্য মূল্য নির্ধারণ করে এবং মাল্টি-ক্লাউড কৌশল গ্রহণ করা সহজ করে তোলে। এই গাইডটি GPU ক্লাউড প্রদানকারীদের তুলে ধরে যারা আউটবাউন্ড ডেটা ট্রান্সফারের জন্য চার্জ করে না।
এই গাইডের জন্য এখনও কোনো মিল থাকা GPU প্রদানকারী পাওয়া যায়নি। শীঘ্রই আবার দেখুন।
ক্লাউড GPU ভাড়া নেওয়ার সময় “শূন্য ইগ্রেস ফি” আসলে কী বোঝায়
ইগ্রেস হল সেই ডেটা যা প্রদানকারীর নেটওয়ার্ক থেকে বেরিয়ে যায় — ক্লাউড থেকে আপনার ল্যাপটপ, অন্য ক্লাউড, বা শেষ ব্যবহারকারীদের কাছে আপনি যে বাইট ডাউনলোড করেন। অনেক অবকাঠামো প্ল্যাটফর্ম এই ট্রাফিক মিটার করে এবং প্রতি গিগাবাইটের জন্য বিল করে, যখন ইনগ্রেস (ডেটা প্রবাহিত হওয়া) এর জন্য খুব কম বা কিছুই চার্জ করে না। একটি “শূন্য ইগ্রেস” বা “$0 ইগ্রেস” GPU হোস্ট প্রতিশ্রুতি দেয় যে আপনার ডেটা পুনরায় বের করার জন্য অতিরিক্ত কোনো খরচ হবে না, শুধুমাত্র আপনি যে কম্পিউট ভাড়া নিয়েছেন তার জন্যই খরচ হবে। GPU প্ল্যাটফর্মে এটি একটি গুরুত্বপূর্ণ পার্থক্য, কারণ AI এবং রেন্ডারিং ওয়ার্কলোডগুলি আউটগোয়িং ডেটার পরিমাণে অস্বাভাবিকভাবে ভারী: মডেল চেকপয়েন্ট, রপ্তানি করা ওজন, রেন্ডার করা ফ্রেম, ব্যাচ ইনফারেন্স ফলাফল, এবং সিন্থেটিক ডেটাসেট—all GPU শেষ হওয়ার পর কোথাও না কোথাও যেতে হয়।
ইগ্রেস আলাদা করে মূল্য নির্ধারণ করার কারণ হল পাবলিক ইন্টারনেটে ব্যান্ডউইথ প্রদানকারীদের জন্য একটি প্রকৃত আপস্ট্রিম খরচ। যারা “কোনো ইগ্রেস ফি নেই” বিজ্ঞাপন দেয় তারা হয় সেই খরচ ঘন্টা ভিত্তিক GPU রেটের মধ্যে অন্তর্ভুক্ত করে, এমন নেটওয়ার্কে কাজ করে যেখানে ট্রানজিট সস্তা, অথবা বিনামূল্যে অন্তর্ভুক্ত ট্রান্সফার সীমাবদ্ধ করে তাদের নিজস্ব ব্যাকবোনের মধ্যে থাকা ট্রাফিকের জন্য। উপরের তুলনায় প্রতিটি এন্ট্রির জন্য কোনটি প্রযোজ্য তা পড়াই মূল বিষয়।
কেন ইগ্রেস বাস্তব GPU ওয়ার্কফ্লোতে গুরুত্বপূর্ণ
GPU এর ঘন্টা ভিত্তিক মূল্য ইনভয়েসের মাত্র একটি লাইন। ডেটা-গভীর কাজের জন্য, ট্রান্সফার নিঃশব্দে দ্বিতীয় বিল হয়ে উঠতে পারে — এবং কম্পিউটের মতো এটি পূর্বাভাস দেওয়া কঠিন। ইগ্রেস মূল্য নির্ধারণ সবচেয়ে বেশি প্রভাব ফেলে এই প্যাটার্নগুলিতে:
- বড় চেকপয়েন্ট রপ্তানি করা ট্রেনিং — বহু-বিলিয়ন প্যারামিটার মডেলগুলো দশ বা শত গিগাবাইট পরিমাপের চেকপয়েন্ট তৈরি করে। আপনি যদি ঘন ঘন স্ন্যাপশট নেন এবং প্রতিটি অফ-প্ল্যাটফর্ম কপি করেন, তবে মিটার করা ইগ্রেস GPU খরচের সমান হতে পারে।
- উচ্চ-থ্রুপুট ব্যাচ ইনফারেন্স — লক্ষ লক্ষ আইটেমের জন্য এম্বেডিং, ক্যাপশন, বা রূপান্তরিত মিডিয়া তৈরি করা মানে আউটপুট পরিমাণ ইনপুটের থেকে অনেক বেশি হতে পারে। সেই আউটপুট ইগ্রেস হয় যেদিন এটি প্রদানকারীর নেটওয়ার্ক থেকে বেরিয়ে যায়।
- রেন্ডারিং এবং ভিডিও — শেষ ফ্রেম এবং এনকোডেড ভিডিও বড় এবং প্রায়শই স্টোরেজ বা ডেলিভারির জন্য পুনরায় আনা হয়, যা রেন্ডারিংকে সবচেয়ে ইগ্রেস-সংবেদনশীল GPU ওয়ার্কলোডগুলোর মধ্যে একটি করে তোলে।
- মাল্টি-ক্লাউড এবং হাইব্রিড পাইপলাইন — একটি GPU হোস্ট এবং পৃথক অবজেক্ট স্টোর, ভেক্টর ডাটাবেস, বা সার্ভিং স্তরের মধ্যে ডেটাসেট বা মডেল স্থানান্তর প্রতিবার একটি নেটওয়ার্ক সীমানা পার হয়, এবং প্রতিটি পার হওয়া মিটার করা হতে পারে।
- বাস্তব ব্যবহারকারীদের কাছে মডেল সার্ভ করা — যদি GPU বক্স নিজেই API অনুরোধের উত্তর দেয়, প্রতিটি রেসপন্স টোকেন বা ক্লায়েন্টকে স্ট্রিম করা ছবি ইগ্রেস।
শূন্য ইগ্রেস বিলের সেই অংশটি সরিয়ে দেয় যা আপনি আসলে ব্যবহার করা ফলাফলের পরিমাণের সাথে স্কেল করে। পরীক্ষামূলক কাজের জন্য এটি প্রায়ই তেমন প্রভাব ফেলে না; কিন্তু উৎপাদন পাইপলাইনে যা প্রতি ঘণ্টায় গিগাবাইট পাঠায়, সেখানে এটি দুইটি প্রদানকারীর মধ্যে পার্থক্য হতে পারে যাদের ঘন্টা ভিত্তিক GPU রেট একই রকম দেখায়।
“কোনো ইগ্রেস নেই” এর পেছনের সূক্ষ্ম লিপি
প্রতিটি “বিনামূল্যে ইগ্রেস” দাবি একই জিনিস কভার করে না, এবং তারকার চিহ্নগুলোই যেখানে ক্রেতারা অবাক হয়। উপরের এন্ট্রিগুলো তুলনা করার সময়, ঠিক কোনটি প্রদানকারী বোঝাচ্ছে তা পরীক্ষা করুন:
- সত্যিই মিটারবিহীন পাবলিক ইগ্রেস — ওপেন ইন্টারনেটে যেকোনো ডাউনলোড বিনামূল্যে, কোনো গিগাবাইট চার্জ ছাড়াই। এটি সবচেয়ে শক্তিশালী ফর্ম এবং উৎপাদন সার্ভিংয়ের জন্য সবচেয়ে উপযোগী।
- শুধুমাত্র বিনামূল্যে অভ্যন্তরীণ ইগ্রেস — ট্রান্সফার বিনামূল্যে যতক্ষণ এটি প্রদানকারীর নিজস্ব অঞ্চল বা ব্যাকবোনের মধ্যে থাকে, কিন্তু পাবলিক ইন্টারনেট বা অন্য ক্লাউডে যাওয়া এখনও বিলযোগ্য। শুধুমাত্র তখনই উপকারী যখন আপনার স্টোরেজ এবং কম্পিউট একই বিক্রেতার সাথে থাকে।
- একটি উদার ফ্রি টিয়ার, তারপর মিটার করা — প্রতি মাসে একটি নির্দিষ্ট পরিমাণ বিনামূল্যে গিগাবাইট বা টেরাবাইট, যার পর সাধারণ ইগ্রেস রেট প্রযোজ্য। ছোট কাজের জন্য ঠিক আছে, বড় পরিমাণের জন্য ফাঁদ।
- ব্যান্ডউইথ-ক্যাপড “বিনামূল্যে” — প্রতি গিগাবাইট চার্জ নেই, কিন্তু পোর্ট স্পিড থ্রোটল করা হয়, তাই বড় ট্রান্সফার ধীরগতিতে হয় খরচের পরিবর্তে। আপনি ডলার নয়, সময়ে অর্থ প্রদান করেন।
- ইগ্রেস বিনামূল্যে কিন্তু স্টোরেজ ইগ্রেস আলাদা — সংযুক্ত ব্লক স্টোরেজ থেকে ডেটা টানানো বিনামূল্যে হতে পারে, কিন্তু পৃথক অবজেক্ট স্টোর থেকে টানানো নয়। সীমারেখাটাই বিলযোগ্য।
একটি প্রকৃত ট্রেড-অফ বিবেচনা করতে হবে। যে প্রদানকারী বিনামূল্যে ইগ্রেস অন্তর্ভুক্ত করে তার ঘন্টা ভিত্তিক GPU রেট একটু বেশি হতে পারে, কারণ সেই ব্যান্ডউইথ খরচ কোথাও থাকতে হবে। ইগ্রেস-হালকা ওয়ার্কলোডের জন্য — দীর্ঘ ট্রেনিং রান যা চেকপয়েন্ট রেখে দেয়, বা ইন্টারেক্টিভ নোটবুক কাজ — কম ঘন্টা রেট এবং মিটার করা ইগ্রেস যা আপনি প্রায়ই ব্যবহার করেন না, সেটাই মোটামুটি সস্তা হতে পারে। সঠিক পছন্দ সম্পূর্ণরূপে আপনার আউটপুট-টু-কম্পিউট অনুপাতের উপর নির্ভর করে।
আপনি প্রতিশ্রুতিবদ্ধ হওয়ার আগে কী পরীক্ষা করবেন
- বিনামূল্যে ইগ্রেস পাবলিক ইন্টারনেট ট্রাফিকের জন্য প্রযোজ্য নাকি শুধুমাত্র অন্তর্দাতা স্থানান্তরের জন্য।
- বিনামূল্যে বরাদ্দের উপর কোনো মাসিক সীমা এবং তা অতিক্রম করলে প্রতি গিগাবাইটের হার।
- পোর্ট/ব্যান্ডউইথ সীমা, কারণ “বিনামূল্যে কিন্তু ধীর” হলেও ডেটা ড্রেন হওয়ার সময় GPU-ঘন্টা খরচ হয়।
- স্টোরেজ পুনরুদ্ধার (অবজেক্ট স্টোর পড়া, স্ন্যাপশট রপ্তানি) নেটওয়ার্ক ইগ্রেস থেকে আলাদা করে ইগ্রেস হিসাবে গণ্য হয় কিনা।
- নীতিটি স্পট বা ইন্টারাপ্টেবল ইনস্ট্যান্স এর সাথে কিভাবে মিথস্ক্রিয়া করে — যখন একটি নোড পুনরুদ্ধার করা হয় তখন দ্রুত ডেটা সরাতে হতে পারে, এবং সময়সীমার মধ্যে মিটার করা ইগ্রেস কষ্টকর।
উপরের তুলনাটি ইগ্রেসের জন্য পড়া
টেবিল পড়ার আগে আপনার ইগ্রেস অনুমান করুন: প্রতি রান প্ল্যাটফর্ম থেকে প্রায় কত গিগাবাইট বের হয়, তা মাসে কত রান হয় তার সাথে গুণ করুন। সেটি উপরের ঘন্টা ভিত্তিক GPU রেটের সাথে মিলিয়ে দেখুন। শূন্য ইগ্রেস এবং সামান্য বেশি ঘন্টা মূল্য সহ হোস্ট প্রায়শই উৎপাদন সার্ভিং, ব্যাচ ইনফারেন্স, এবং রেন্ডারিংয়ের জন্য জিতে যায়, যেখানে আউটপুট পরিমাণ বেশি এবং পূর্বানুমানযোগ্য। ট্রেনিং-গভীর, আউটপুট-হালকা কাজের জন্য প্রথমে কম ঘন্টা রেট বিবেচনা করুন এবং ইগ্রেসকে দ্বিতীয় ফ্যাক্টর হিসেবে দেখুন। কারণ ব্যান্ডউইথ নীতি এবং দাম পরিবর্তিত হয়, বর্তমান প্রতি ঘণ্টার রেটের জন্য উপরের লাইভ তুলনা ব্যবহার করুন এবং প্রতিটি প্রদানকারীর ইগ্রেস শর্তাবলী এখানে তালিকাভুক্ত পয়েন্টগুলোর সাথে নিশ্চিত করুন।
প্রায়শই জিজ্ঞাসিত প্রশ্ন
“শূন্য ইগ্রেস” মানে কি আমার সব ডেটা ট্রান্সফার বিনামূল্যে?
সবসময় নয়। এটি নির্ভরযোগ্যভাবে বোঝায় যে আউটগোয়িং ট্রাফিকে কোনো গিগাবাইট চার্জ নেই, কিন্তু কিছু প্রদানকারী এটিকে তাদের নিজস্ব নেটওয়ার্কের মধ্যে থাকা ট্রাফিকের জন্য সীমাবদ্ধ করে, অথবা মিটারিং শুরু হওয়ার আগে একটি নির্দিষ্ট মাসিক বরাদ্দ অন্তর্ভুক্ত করে। ইনগ্রেস প্রায় সর্বত্র বিনামূল্যে, তাই ইগ্রেস দাবি যাচাই করা গুরুত্বপূর্ণ।
GPU বিলের সাথে ইগ্রেস ফি বাস্তবে কতটা বাড়তে পারে?
এটি সম্পূর্ণরূপে আউটপুট পরিমাণের উপর নির্ভর করে। কিছু পরীক্ষামূলক নোটবুক খুব কম ইগ্রেস তৈরি করে, তাই ফি খুব সামান্য। একটি উৎপাদন পাইপলাইন যা বড় চেকপয়েন্ট রপ্তানি করে, ভিডিও রেন্ডার করে, বা ব্যবহারকারীদের মডেল রেসপন্স সার্ভ করে, মাসে টেরাবাইট ডেটা স্থানান্তর করতে পারে, যেখানে মিটার করা ইগ্রেস মোটের একটি বড় অংশ হতে পারে — কখনও কখনও কম্পিউট খরচের কাছাকাছি।
আমি কি সবসময় শূন্য ইগ্রেস প্রদানকারী বেছে নেব?
না। বিনামূল্যে ইগ্রেস কখনও কখনও একটু বেশি ঘন্টা ভিত্তিক GPU রেটের সাথে আসে। যদি আপনার ওয়ার্কলোড ডেটা স্থানে রাখে — দীর্ঘ ট্রেনিং রান, ইন্টারেক্টিভ ডেভেলপমেন্ট — আপনি কম ঘন্টা রেট এবং মিটার করা ইগ্রেস দিয়ে কম খরচ করতে পারেন যা আপনি কমই ব্যবহার করবেন। শূন্য ইগ্রেসকে স্বয়ংক্রিয়ভাবে ভালো না ধরে আপনার আউটপুট-টু-কম্পিউট অনুপাত অনুযায়ী নীতি মিলান।
বিনামূল্যে ইগ্রেস কি কখনও থ্রোটল করা হয়?
হ্যাঁ। কিছু প্রদানকারী প্রতি গিগাবাইট চার্জ না নিয়ে পোর্ট স্পিড সীমাবদ্ধ করে, তাই বড় রপ্তানি ধীর হয় কিন্তু ব্যয়বহুল নয়। যেহেতু GPU ক্লক ডেটা ড্রেন হওয়ার সময় চলতে পারে, “বিনামূল্যে কিন্তু ধীর” এরও GPU-ঘন্টায় প্রকৃত খরচ থাকে। সর্বদা মূল্য নির্ধারণের পাশাপাশি ব্যান্ডউইথ সীমাও পরীক্ষা করুন।