প্রতি সেকেন্ড বিলিং সহ ক্লাউড GPU প্রদানকারীরা

ক্লাউড GPU ভাড়ার জন্য প্রতি সেকেন্ডের বিলিং আসলে কী বোঝায়

প্রতি সেকেন্ডের বিলিং মানে প্রদানকারী আপনার GPU ইনস্ট্যান্সকে এক সেকেন্ডের ইঙ্ক্রিমেন্টে মাপেন এবং শুধুমাত্র সেই সেকেন্ডগুলোর জন্য চার্জ করেন যখন ইনস্ট্যান্সটি চলছে, পুরো ঘণ্টায় রাউন্ড আপ করার পরিবর্তে বা একটি নির্দিষ্ট ঘণ্টাভিত্তিক ব্লক চার্জ করার পরিবর্তে। যখন আপনি একটি ইনস্ট্যান্স চালু করেন এবং ২৩ মিনিট পরে বন্ধ করেন, তখন আপনি প্রায় ১,৩৮০ সেকেন্ডের কম্পিউটের জন্য অর্থ প্রদান করেন, পুরো ঘণ্টার জন্য নয়। বিজ্ঞাপিত মূল হার সাধারণত প্রতি GPU-ঘণ্টার মূল্য হিসেবে প্রকাশিত হয়, তবে মিটার অনেক সূক্ষ্মভাবে টিকে, তাই আপনি যা ব্যবহার করেন এবং যা প্রদান করেন তার মধ্যে ফারাক প্রায় শূন্যে নেমে আসে।

এটি একটি ছোট হিসাবনিকাশের বিবরণ মনে হলেও, এটি বিস্ফোরণশীল, স্বয়ংক্রিয় এবং পরীক্ষামূলক কাজের অর্থনীতিতে মৌলিক পরিবর্তন আনে। উপরের তালিকাটি বিশেষভাবে সেই প্রদানকারীদের জন্য ফিল্টার করে যারা এই সূক্ষ্মতায় বিল করেন, যা একটি প্ল্যাটফর্মকে ছোট, ঘন ঘন কাজের জন্য তৈরি করা থেকে দীর্ঘস্থায়ী, স্থিতিশীল ইনস্ট্যান্সের জন্য অপ্টিমাইজড প্ল্যাটফর্ম থেকে আলাদা করে।

প্রতি সেকেন্ড বনাম প্রতি ঘণ্টা এবং প্রতি মিনিট

বিলিং সূক্ষ্মতা একটি স্পেকট্রামে অবস্থান করে, এবং পার্থক্যগুলি স্কেলে গুণিত হয়:

• প্রতি ঘণ্টা, উপরে রাউন্ড করা: ৯০ সেকেন্ডের কাজ এবং ৫৯ মিনিটের কাজ উভয়ই পুরো এক ঘণ্টার খরচ হয়। এটি ছোট কাজের জন্য সবচেয়ে খারাপ এবং ঘন ঘন শুরু/বন্ধ চক্রকে শাস্তি দেয়।
• প্রতি মিনিট: ভাল, তবে ৫ সেকেন্ডের ইনফারেন্স কল বা ২০ সেকেন্ডের কন্টেইনার শুরু এখনও ৬০ সেকেন্ডে রাউন্ড আপ হয়, যা হাজার হাজার কলের মধ্যে যোগ হয়।
• প্রতি সেকেন্ড: আপনি যা ওয়াল ক্লক আসলে রেকর্ড করে তার জন্যই অর্থ প্রদান করেন, প্রায়ই একটি ছোট ন্যূনতম চার্জ (সাধারণত প্রথম মিনিট) থাকে যাতে অপব্যবহার প্রতিরোধ করা যায়।

একটি দীর্ঘ প্রশিক্ষণ রান জন্য সূক্ষ্মতা তেমন গুরুত্বপূর্ণ নয় — ৪০ ঘণ্টার কাজের রাউন্ডিং ত্রুটি পরিসংখ্যানগতভাবে অপ্রাসঙ্গিক। একটি অটোস্কেলিং ইনফারেন্স ফ্লিট যা দিনে শত শত বার ইনস্ট্যান্স চালু ও বন্ধ করে, অথবা একটি হাইপারপ্যারামিটার সুইপ যা কন্টেইনার নিয়মিত চালু ও বন্ধ করে, প্রতি সেকেন্ডের মিটারিং ব্যবহার করা কম্পিউটের জন্য অর্থ প্রদান এবং অব্যবহৃত রাউন্ডিংয়ের জন্য অর্থ প্রদান করার মধ্যে পার্থক্য তৈরি করতে পারে।

কোন ওয়ার্কফ্লো সবচেয়ে উপকৃত হয়

প্রতি সেকেন্ডের বিলিং যেকোনো স্পাইকী, স্বয়ংক্রিয় বা স্বল্পস্থায়ী কাজকে পুরস্কৃত করে:

• ব্রাস্ট ইনফারেন্স এবং সার্ভারলেস-স্টাইল স্কেলিং: GPU ক্ষমতা অনুরোধের পরিমাণ অনুযায়ী স্কেল করে এবং কয়েক মিনিটের মধ্যে মুক্তি দেয় এমন কাজগুলো সবচেয়ে বেশি সঞ্চয় করে, কারণ প্রতিটি স্কেল ইভেন্টে অব্যবহৃত রাউন্ডিং বাতিল হয়।
• CI/CD এবং স্বয়ংক্রিয় পরীক্ষা: GPU-সমর্থিত টেস্ট স্যুট বা মডেল-ভ্যালিডেশন কাজ যা প্রতি কমিট কয়েক মিনিট চলে, প্রতিটি পাইপলাইন ট্রিগারে পুরো ঘণ্টার ব্লক চার্জ এড়ায়।
• হাইপারপ্যারামিটার অনুসন্ধান এবং পরীক্ষামূলক কাজ: ডজন ডজন স্বল্প ট্রায়াল চালানো, পরাজিতদের দ্রুত বন্ধ করা, এবং শুধুমাত্র প্রতিশ্রুতিবদ্ধ কনফিগারেশন রাখা অনেক সস্তা হয় যখন প্রতিটি বন্ধ ট্রায়ালের জন্য আপনি কেবলমাত্র প্রকৃত চালানো সেকেন্ডের জন্যই অর্থ প্রদান করেন।
• ইন্টারেক্টিভ নোটবুক সেশন: একজন গবেষক যিনি দশ মিনিটের ডিবাগিং সেশনের জন্য GPU চালু করেন এবং বন্ধ করেন, তিনি দশ মিনিটের জন্য অর্থ প্রদান করেন, এক ঘণ্টার জন্য নয়।
• অপ্রত্যাশিত দৈর্ঘ্যের ব্যাচ কাজ: ফ্রেম রেন্ডারিং, এম্বেডিং ব্যাচ চালানো, বা ক্লিপ ট্রান্সকোডিং যেখানে প্রতি কাজের রানটাইম কয়েক সেকেন্ড থেকে কয়েক মিনিট পর্যন্ত পরিবর্তিত হয়।

অন্যদিকে, যদি আপনি একটি GPU-কে দিনের পর দিন ধারাবাহিক প্রশিক্ষণের জন্য পিন করে রাখেন, তাহলে বিলিং সূক্ষ্মতা প্রায় অপ্রাসঙ্গিক এবং আপনাকে অন্যান্য ফ্যাক্টর যেমন ইন্টারকানেক্ট, VRAM, স্পট ডিসকাউন্ট এবং স্টোরেজকে অনেক বেশি গুরুত্ব দিতে হবে।

ট্রেড-অফ এবং সূক্ষ্ম বিবরণ

প্রতি সেকেন্ডের বিলিং প্রায় সবসময় ইতিবাচক, তবে এটি একাকী থাকে না, এবং কয়েকটি বিবরণ নির্ধারণ করে শিরোনামের সুবিধা বাস্তব কিনা:

• ন্যূনতম চার্জ: অনেক প্রদানকারী একটি ন্যূনতম বিলযোগ্য সময়কাল প্রয়োগ করে, প্রায়ই প্রথম ৬০ সেকেন্ড। যদি আপনার কাজগুলো এক মিনিটের কম হয়, তবে সেই মেঝে গুরুত্বপূর্ণ, তাই পরীক্ষা করুন ন্যূনতম চার্জ প্রযোজ্য কিনা এবং কতক্ষণ।
• ঘড়ি কী অন্তর্ভুক্ত করে: নিশ্চিত করুন বিলিং শুরু হয় ইনস্ট্যান্স প্রোভিশনিং থেকে, বুট থেকে, না GPU প্রস্তুত হওয়ার মুহূর্ত থেকে। ধীর ঠান্ডা শুরু, ইমেজ পুল এবং ড্রাইভার ইনিশিয়ালাইজেশন সবই মিটার করা উইন্ডোর মধ্যে পড়তে পারে, তাই দ্রুত বিলিং রেটের সাথে ধীর বুট সঞ্চয় মুছে দিতে পারে।
• স্টোরেজ এবং IP চার্জ: GPU কম্পিউট আপনি টার্মিনেট করার সাথে সাথেই বিলিং বন্ধ হতে পারে, কিন্তু সংযুক্ত পার্সিস্টেন্ট ভলিউম, স্ন্যাপশট এবং রিজার্ভড IP সাধারণত চার্জ হতে থাকে। প্রতি সেকেন্ডের কম্পিউট স্টোরেজকে বিনামূল্যে করে না।
• ইগ্রেস এবং ডেটা ট্রান্সফার: এগুলো সাধারণত ভলিউম অনুযায়ী বিল করা হয়, সময় অনুযায়ী নয়, এবং সূক্ষ্মতায় প্রভাবিত হয় না — তুলনা করার জন্য একটি আলাদা লাইন আইটেম।
• স্পট এবং ইন্টারাপ্টেবল মূল্য নির্ধারণ: প্রতি সেকেন্ডের মিটারিং স্বাভাবিকভাবেই ইন্টারাপ্টেবল ইনস্ট্যান্সের সাথে যায়, কারণ আপনি এমন একটি নোডের জন্য শাস্তি পান না যা পুনরুদ্ধারের আগে মাত্র কয়েক মিনিট বাঁচে। একসাথে তারা ত্রুটি-সহিষ্ণু, চেকপয়েন্টেড কাজের জন্য উপযুক্ত।

উপরের তুলনায় কী পরীক্ষা করবেন

তালিকা পড়ার সময়, প্রতি সেকেন্ডের বিলিংকে একক সিদ্ধান্তমূলক ফ্যাক্টর হিসেবে নয় বরং একাধিক অক্ষের মধ্যে একটি হিসেবে বিবেচনা করুন:

1. নিশ্চিত করুন সূক্ষ্মতা সত্যিই প্রতি সেকেন্ড, প্রতি মিনিট নয় যা ঢিলেঢালা ভাবে “সেকেন্ড অনুযায়ী” বলা হয়।
2. ন্যূনতম বিলযোগ্য সময়কাল এবং মিটার শুরু হওয়ার পয়েন্ট খুঁজে বের করুন।
3. আপনার সাধারণ কাজের সময়কাল এবং শুরু/বন্ধের ফ্রিকোয়েন্সি অনুমান করুন — সূক্ষ্মতা যত বেশি, আপনার কাজ যত ছোট এবং ঘন ঘন, তত বেশি সাশ্রয় হয়।
4. কম্পিউট বিলিংকে স্টোরেজ, নেটওয়ার্কিং এবং অব্যবহৃত রিসোর্স চার্জ থেকে আলাদা করুন, যা সূক্ষ্মতা দ্বারা সমাধান হয় না।
5. GPU মডেল এবং অন-ডিমান্ড বনাম স্পট উপলব্ধতার সাথে ক্রস-রেফারেন্স করুন যাতে আপনি এমন হার্ডওয়্যারের সেকেন্ড অপ্টিমাইজ না করেন যা কাজের জন্য সঠিক নয়।

লাইভ রেটগুলি ক্রমাগত পরিবর্তিত হয় এবং অঞ্চল ও ইনস্ট্যান্স টাইপ অনুযায়ী ভিন্ন হয়, তাই উপরের তুলনাটি বর্তমান প্রতি সেকেন্ডের মূল্য নির্ধারণের জন্য ব্যবহার করুন, কোনো নির্দিষ্ট সংখ্যার জন্য নয়।

প্রায়শই জিজ্ঞাসিত প্রশ্ন

প্রতি সেকেন্ডের বিলিং GPU-কে অর্থবহভাবে সস্তা করে তোলে?

এটি আপনার কার্যকর খরচ কমায় শুধুমাত্র যদি আপনার কাজগুলো স্বল্পকালীন বা ঘন ঘন পরিবর্তিত হয়। দীর্ঘ, ধারাবাহিক রানগুলির জন্য প্রতি ঘণ্টার বিলিংয়ের তুলনায় সাশ্রয় নগণ্য; কিন্তু বিস্ফোরণশীল, অটোস্কেলিং বা পরীক্ষামূলক কাজের জন্য যেখানে অনেক স্বল্প ইনস্ট্যান্স থাকে, রাউন্ডিং বাতিল হওয়া আপনার বিলের প্রকৃত হ্রাস ঘটাতে পারে।

প্রতি সেকেন্ডের বিলিংয়ের সাথে সাধারণত ন্যূনতম চার্জ থাকে?

অধিকাংশ ক্ষেত্রে হ্যাঁ। অনেক প্রদানকারী একটি ন্যূনতম সময়কাল বিল করেন — সাধারণত প্রথম মিনিট — এমনকি যখন একটি ইনস্ট্যান্স কয়েক সেকেন্ডের জন্য চলে। এটি দ্রুত চক্রের অপব্যবহার প্রতিরোধ করার উদ্দেশ্যে। যদি আপনার কাজগুলো এক মিনিটের কম হয়, তবে আপনি প্রকৃত সেকেন্ডের জন্য অর্থ প্রদান করছেন বলে ধরে নেওয়ার আগে ন্যূনতম চার্জ নিশ্চিত করুন।

প্রতি সেকেন্ডের মিটার কখন শুরু এবং বন্ধ হয়?

এটি পরিবর্তিত হয়। কিছু প্রদানকারী প্রোভিশনিং থেকে মিটারিং শুরু করে, অন্যরা বুট থেকে বা GPU ব্যবহারের যোগ্য হওয়ার সময় থেকে। ঠান্ডা শুরু সময়, ইমেজ পুল এবং ড্রাইভার সেটআপ সবই বিলিং উইন্ডোর মধ্যে পড়তে পারে, তাই দ্রুত রেটের সাথে ধীর স্টার্টআপ একটু বেশি রেটের তুলনায় খারাপ হতে পারে যা দ্রুত বুট হয়।

প্রতি সেকেন্ডের বিলিং স্টোরেজ এবং ডেটা ট্রান্সফারেও প্রযোজ্য?

না। প্রতি সেকেন্ডের সূক্ষ্মতা সাধারণত শুধুমাত্র GPU কম্পিউটের জন্য। পার্সিস্টেন্ট ভলিউম, স্ন্যাপশট, রিজার্ভড IP এবং ইগ্রেস সাধারণত আলাদাভাবে — ক্ষমতা বা ভলিউম অনুযায়ী — বিল করা হয় এবং GPU ইনস্ট্যান্স বন্ধ করার পরও চার্জ হতে থাকে।