শূন্য ইগ্রেস ফি সহ ক্লাউড GPU প্রদানকারী

ক্লাউড GPU ভাড়া নেওয়ার সময় “শূন্য ইগ্রেস ফি” আসলে কী বোঝায়

ইগ্রেস হলো সেই ডেটা যা একটি প্রদানকারীর নেটওয়ার্ক থেকে বেরিয়ে যায় — আপনি ক্লাউড থেকে আপনার ল্যাপটপে, অন্য ক্লাউডে, বা শেষ ব্যবহারকারীদের কাছে ডাউনলোড করা বাইট। অনেক অবকাঠামো প্ল্যাটফর্ম এই ট্রাফিক মাপেন এবং প্রতি গিগাবাইট ভিত্তিতে বিল করেন, যখন ইনগ্রেস (ডেটা প্রবাহিত হওয়া) এর জন্য খুব কম বা কিছুই চার্জ করেন না। একটি “শূন্য ইগ্রেস” বা “$0 ইগ্রেস” GPU হোস্ট প্রতিশ্রুতি দেয় যে আপনার ডেটা পুনরায় বের করে আনার জন্য অতিরিক্ত কোনো খরচ হবে না, শুধু আপনি ইতিমধ্যে ভাড়া নেওয়া কম্পিউটের জন্যই খরচ করবেন। একটি GPU প্ল্যাটফর্মে এটি একটি গুরুত্বপূর্ণ পার্থক্য, কারণ AI এবং রেন্ডারিং ওয়ার্কলোডগুলি বের হওয়ার পথে অস্বাভাবিকভাবে ডেটা-ভারী: মডেল চেকপয়েন্ট, রপ্তানি করা ওজন, রেন্ডার করা ফ্রেম, ব্যাচ ইনফারেন্স ফলাফল, এবং সিনথেটিক ডেটাসেট সবই GPU শেষ হওয়ার পর কোথাও যেতে হয়।

ইগ্রেস আলাদাভাবে মূল্য নির্ধারণের কারণ হলো পাবলিক ইন্টারনেটের ব্যান্ডউইথ প্রদানকারীদের জন্য একটি বাস্তব আপস্ট্রিম খরচ। যেসব প্ল্যাটফর্ম ইগ্রেস ফি নেই বলে বিজ্ঞাপন দেয় তারা হয় সেই খরচ ঘন্টাভিত্তিক GPU রেটে অন্তর্ভুক্ত করছে, এমন নেটওয়ার্কে কাজ করছে যেখানে ট্রানজিট সস্তা, অথবা অন্তর্ভুক্ত ফ্রি ট্রান্সফারকে তাদের নিজস্ব ব্যাকবোনের মধ্যে সীমাবদ্ধ করছে। উপরের তুলনায় প্রতিটি এন্ট্রিতে কোনটি প্রযোজ্য তা পড়াই মূল বিষয়।

কেন ইগ্রেস বাস্তব GPU ওয়ার্কফ্লোতে গুরুত্বপূর্ণ

GPU এর ঘন্টা ভিত্তিক মূল্য ইনভয়েসের মাত্র একটি লাইন। ডেটা-গভীর কাজের জন্য, ট্রান্সফার নিঃশব্দে দ্বিতীয় বিল হয়ে উঠতে পারে — এবং কম্পিউটের মতো এটি পূর্বাভাস দেওয়া কঠিন। ইগ্রেস মূল্যায়ন সবচেয়ে বেশি প্রভাব ফেলে এই ধরণের ক্ষেত্রে:

• বড় চেকপয়েন্ট রপ্তানি করা প্রশিক্ষণ — বহু-বিলিয়ন প্যারামিটার মডেলগুলি দশ বা শত গিগাবাইট পরিমাপের চেকপয়েন্ট তৈরি করে। আপনি যদি ঘনঘন স্ন্যাপশট নেন এবং প্রতিটি অফ-প্ল্যাটফর্ম কপি করেন, তাহলে মাপা ইগ্রেস GPU খরচের সমান হতে পারে।
• উচ্চ-থ্রুপুট ব্যাচ ইনফারেন্স — লক্ষ লক্ষ আইটেমের জন্য এমবেডিং, ক্যাপশন, বা রূপান্তরিত মিডিয়া তৈরি করা মানে আউটপুট পরিমাণ ইনপুটের থেকে অনেক বড় হতে পারে। সেই আউটপুট ইগ্রেস হয় যেই মুহূর্তে এটি প্রদানকারীর নেটওয়ার্ক ছেড়ে যায়।
• রেন্ডারিং এবং ভিডিও — সম্পন্ন ফ্রেম এবং এনকোড করা ভিডিও বড় এবং প্রায়শই স্টোরেজ বা ডেলিভারির জন্য পুনরায় আনা হয়, যা রেন্ডারিংকে সবচেয়ে ইগ্রেস-সংবেদনশীল GPU ওয়ার্কলোডগুলোর মধ্যে একটি করে তোলে।
• মাল্টি-ক্লাউড এবং হাইব্রিড পাইপলাইন — একটি GPU হোস্ট এবং আলাদা অবজেক্ট স্টোর, ভেক্টর ডাটাবেস, বা সার্ভিং টিয়ারের মধ্যে ডেটাসেট বা মডেল স্থানান্তর প্রতিবার একটি নেটওয়ার্ক সীমানা অতিক্রম করে, এবং প্রতিটি অতিক্রম মাপা হতে পারে।
• বাস্তব ব্যবহারকারীদের জন্য মডেল সার্ভিং — যদি GPU বক্স নিজেই API অনুরোধের উত্তর দেয়, প্রতিটি রেসপন্স টোকেন বা ক্লায়েন্টকে স্ট্রিম করা ছবি ইগ্রেস।

শূন্য ইগ্রেস সেই বিলের অংশ অপসারণ করে যা আপনি আসলে ব্যবহার করা ফলাফলের পরিমাণের সাথে স্কেল করে। পরীক্ষামূলক কাজের জন্য এটি প্রায়ই অপ্রাসঙ্গিক; কিন্তু উৎপাদন পাইপলাইনে যা প্রতি ঘন্টায় গিগাবাইট পাঠায়, এটি দুইটি প্রদানকারীর মধ্যে পার্থক্য হতে পারে যাদের ঘন্টাভিত্তিক GPU রেট একই রকম দেখায়।

“কোন ইগ্রেস নেই” এর পেছনের সূক্ষ্ম শর্তাবলী

প্রতিটি “ফ্রি ইগ্রেস” দাবি একই জিনিস কভার করে না, এবং তারকাচিহ্নগুলোই ক্রেতাদের অবাক করে দেয়। উপরের এন্ট্রিগুলো তুলনা করার সময়, ঠিক কোনটি প্রদানকারী বোঝাচ্ছে তা পরীক্ষা করুন:

• সত্যিই অমিটারড পাবলিক ইগ্রেস — ওপেন ইন্টারনেটে যেকোনো ডাউনলোড ফ্রি, কোনো গিগাবাইট চার্জ নেই। এটি সবচেয়ে শক্তিশালী ফর্ম এবং উৎপাদন সার্ভিংয়ের জন্য সবচেয়ে উপযোগী।
• শুধুমাত্র ফ্রি অভ্যন্তরীণ ইগ্রেস — ট্রান্সফার ফ্রি যতক্ষণ এটি প্রদানকারীর নিজস্ব অঞ্চল বা ব্যাকবোনের মধ্যে থাকে, কিন্তু পাবলিক ইন্টারনেট বা অন্য ক্লাউডে যাওয়া এখনও বিলযোগ্য। শুধুমাত্র তখনই উপকারী যখন আপনার স্টোরেজ এবং কম্পিউট একই বিক্রেতার অধীনে থাকে।
• একটি উদার ফ্রি টিয়ার, তারপর মিটারড — প্রতি মাসে একটি নির্দিষ্ট পরিমাণ ফ্রি গিগাবাইট বা টেরাবাইট, যার পর সাধারণ ইগ্রেস রেট প্রযোজ্য। ছোট কাজের জন্য ভালো, বড় ভলিউমের জন্য ফাঁদ।
• ব্যান্ডউইথ-ক্যাপড “ফ্রি” — কোনো গিগাবাইট চার্জ নেই, কিন্তু পোর্টের গতি সীমাবদ্ধ, তাই বড় ট্রান্সফার ধীরগতিতে হয়, ব্যয়বহুল নয়। আপনি টাকা নয়, সময়ে পেমেন্ট করছেন।
• ইগ্রেস ফ্রি কিন্তু স্টোরেজ ইগ্রেস আলাদা — সংযুক্ত ব্লক স্টোরেজ থেকে ডেটা টানা ফ্রি হতে পারে, কিন্তু আলাদা অবজেক্ট স্টোর থেকে টানা নয়। সীমানাটি যা বিলযোগ্য।

একটি প্রকৃত ট্রেড-অফ বিবেচনা করতে হবে। যে প্রদানকারী ফ্রি ইগ্রেস অন্তর্ভুক্ত করে তার ঘন্টাভিত্তিক GPU রেট একটু বেশি হতে পারে, কারণ সেই ব্যান্ডউইথ খরচ কোথাও থাকতে হবে। ইগ্রেস-কম ওয়ার্কলোডের জন্য — দীর্ঘ প্রশিক্ষণ যা চেকপয়েন্ট ধরে রাখে, বা ইন্টারেক্টিভ নোটবুক কাজ — কম ঘন্টাভিত্তিক রেট এবং মিটারড ইগ্রেস যা আপনি প্রায়ই ব্যবহার করেন না, সামগ্রিকভাবে সস্তা হতে পারে। সঠিক পছন্দ সম্পূর্ণরূপে আপনার আউটপুট-টু-কম্পিউট অনুপাতের উপর নির্ভর করে।

আপনি প্রতিশ্রুতিবদ্ধ হওয়ার আগে কী পরীক্ষা করবেন

• ফ্রি ইগ্রেস কি পাবলিক ইন্টারনেট ট্রাফিকের জন্য প্রযোজ্য নাকি শুধুমাত্র অন্তঃপ্রদানকারী স্থানান্তরের জন্য।
• যেকোনো মাসিক ক্যাপ ফ্রি বরাদ্দে এবং আপনি এটি ছাড়ালে প্রতি গিগাবাইট রেট।
• পোর্ট/ব্যান্ডউইথ সীমা, কারণ “ফ্রি কিন্তু ধীর” এর সময় GPU-ঘণ্টা খরচ হয় যখন ডেটা ড্রেন হচ্ছে।
• স্টোরেজ রিট্রিভাল (অবজেক্ট স্টোর পড়া, স্ন্যাপশট রপ্তানি) নেটওয়ার্ক ইগ্রেস থেকে আলাদা ইগ্রেস হিসেবে গণ্য হয় কি না।
• নীতিটি স্পট বা ইন্টারাপ্টেবল ইনস্ট্যান্স এর সাথে কিভাবে কাজ করে — যখন একটি নোড পুনরুদ্ধার করা হয় তখন দ্রুত ডেটা সরাতে হতে পারে, এবং সময়সীমার মধ্যে মিটারড ইগ্রেস কষ্টকর।

উপরের তুলনাটি ইগ্রেসের জন্য পড়া

টেবিল পড়ার আগে আপনার ইগ্রেস অনুমান করুন: প্রতি রান প্ল্যাটফর্ম থেকে প্রায় কত গিগাবাইট বের হয়, সেটি মাসে কতবার রান হয় তার সাথে গুণ করুন। সেটি উপরের ঘন্টাভিত্তিক GPU রেটের সাথে মিলিয়ে দেখুন। শূন্য ইগ্রেস এবং সামান্য বেশি ঘন্টাভিত্তিক মূল্যের হোস্ট প্রায়ই উৎপাদন সার্ভিং, ব্যাচ ইনফারেন্স, এবং রেন্ডারিংয়ের জন্য জিতে যায়, যেখানে আউটপুট ভলিউম বেশি এবং পূর্বানুমানযোগ্য। প্রশিক্ষণ-ভারী, আউটপুট-কম কাজের জন্য প্রথমে কম ঘন্টাভিত্তিক রেট বিবেচনা করুন এবং ইগ্রেসকে দ্বিতীয় ফ্যাক্টর হিসেবে দেখুন। কারণ ব্যান্ডউইথ নীতি এবং দাম পরিবর্তিত হয়, বর্তমান প্রতি ঘণ্টার রেটের জন্য উপরের লাইভ তুলনাটি ব্যবহার করুন এবং প্রতিটি প্রদানকারীর ইগ্রেস শর্তাবলী এখানে উল্লেখিত পয়েন্টগুলোর সাথে নিশ্চিত করুন।

প্রায়শই জিজ্ঞাসিত প্রশ্ন

“শূন্য ইগ্রেস” মানে আমার সব ডেটা ট্রান্সফার ফ্রি?

সবসময় নয়। এটি নির্ভরযোগ্যভাবে অর্থ দেয় যে আউটবাউন্ড ট্রাফিকে কোনো গিগাবাইট চার্জ নেই, কিন্তু কিছু প্রদানকারী এটি তাদের নিজস্ব নেটওয়ার্কের মধ্যে থাকা ট্রাফিকের জন্য সীমাবদ্ধ করে, অথবা মিটারিং শুরু হওয়ার আগে শুধুমাত্র একটি নির্দিষ্ট মাসিক বরাদ্দ অন্তর্ভুক্ত করে। ইনগ্রেস (ইনবাউন্ড ট্রান্সফার) প্রায় সর্বত্র ফ্রি, তাই ইগ্রেস দাবি যাচাই করা গুরুত্বপূর্ণ।

GPU বিলের সাথে ইগ্রেস ফি বাস্তবে কতটা যোগ হতে পারে?

এটি সম্পূর্ণরূপে আউটপুট ভলিউমের উপর নির্ভর করে। কিছু পরীক্ষামূলক নোটবুক প্রায় শূন্য ইগ্রেস তৈরি করে, তাই ফি অতি ক্ষুদ্র। একটি উৎপাদন পাইপলাইন যা বড় চেকপয়েন্ট রপ্তানি করে, ভিডিও রেন্ডার করে, বা ব্যবহারকারীদের মডেল রেসপন্স সার্ভ করে প্রতি মাসে টেরাবাইটস স্থানান্তর করতে পারে, তখন মিটারড ইগ্রেস মোটের একটি বড় অংশ হয়ে দাঁড়ায় — কখনও কখনও কম্পিউট খরচের কাছাকাছি।

আমি কি সবসময় শূন্য ইগ্রেস প্রদানকারী বেছে নেব?

না। ফ্রি ইগ্রেস কখনও কখনও একটু বেশি ঘন্টাভিত্তিক GPU রেটের সাথে আসে। যদি আপনার ওয়ার্কলোড ডেটা একই স্থানে রাখে — দীর্ঘ প্রশিক্ষণ রান, ইন্টারেক্টিভ ডেভেলপমেন্ট — তাহলে কম ঘন্টাভিত্তিক রেট এবং মিটারড ইগ্রেস যা আপনি কম ব্যবহার করেন, সামগ্রিকভাবে সস্তা হতে পারে। শূন্য ইগ্রেসকে স্বয়ংক্রিয়ভাবে ভালো হিসেবে না দেখে আপনার আউটপুট-টু-কম্পিউট অনুপাত অনুযায়ী নীতি মিলান।

ফ্রি ইগ্রেস কি কখনও থ্রোটল করা হয়?

হ্যাঁ। কিছু প্রদানকারী গিগাবাইট চার্জ না নিলেও পোর্ট স্পিড সীমাবদ্ধ করে, তাই বড় রপ্তানি ধীরগতিতে হয়, ব্যয়বহুল নয়। যেহেতু GPU ক্লক ডেটা ড্রেন হওয়ার সময় চলতে থাকে, “ফ্রি কিন্তু ধীর” এর বাস্তব খরচ GPU-ঘণ্টায় হয়। সর্বদা ব্যান্ডউইথ সীমা মূল্য নির্ধারণের সাথে পরীক্ষা করুন।