प्रति-सेकंड बिलिंग के साथ क्लाउड GPU प्रदाता

क्लाउड GPU किराए पर लेने के लिए प्रति-सेकंड बिलिंग का वास्तविक अर्थ

प्रति-सेकंड बिलिंग का मतलब है कि प्रदाता आपके GPU इंस्टेंस को एक-सेकंड के अंतराल में मापता है और केवल उन सेकंडों के लिए शुल्क लेता है जब इंस्टेंस चल रहा होता है, बजाय इसके कि अगले पूरे घंटे तक राउंड अप करे या एक निश्चित घंटे के ब्लॉक का शुल्क ले। जब आप एक इंस्टेंस लॉन्च करते हैं और 23 मिनट बाद उसे बंद कर देते हैं, तो आप लगभग 1,380 सेकंड के कंप्यूट के लिए भुगतान करते हैं, न कि पूरे घंटे के लिए। विज्ञापित दर आमतौर पर प्रति GPU-घंटा के रूप में व्यक्त की जाती है, लेकिन मीटर बहुत ही सूक्ष्म रूप से चलता है, इसलिए आप जो उपयोग करते हैं और जो भुगतान करते हैं उसके बीच का अंतर लगभग शून्य हो जाता है।

यह एक छोटा लेखांकन विवरण लगता है, लेकिन यह अचानक, स्वचालित, और प्रयोगात्मक कार्यभार की अर्थव्यवस्था को महत्वपूर्ण रूप से बदल देता है। ऊपर दी गई सूची विशेष रूप से उन प्रदाताओं को फ़िल्टर करती है जो इस स्तर पर बिलिंग करते हैं, जो उस प्लेटफ़ॉर्म को अलग करता है जो छोटे, बार-बार होने वाले कार्यों के लिए बनाया गया है, और उस प्लेटफ़ॉर्म से जो लंबे समय तक चलने वाले, स्थिर-स्थिति इंस्टेंस के लिए अनुकूलित है।

प्रति-सेकंड बनाम प्रति-घंटा और प्रति-मिनट

बिलिंग की सूक्ष्मता एक स्पेक्ट्रम पर होती है, और अंतर बड़े पैमाने पर बढ़ जाते हैं:

• प्रति-घंटा, ऊपर की ओर राउंड किया गया: 90 सेकंड का कार्य और 59 मिनट का कार्य दोनों का शुल्क पूरे घंटे का होता है। यह छोटे कार्यों के लिए सबसे खराब स्थिति है और बार-बार शुरू/रोक चक्रों को दंडित करता है।
• प्रति-मिनट: बेहतर है, लेकिन 5 सेकंड की इनफेरेंस कॉल या 20 सेकंड के कंटेनर स्टार्ट को अभी भी 60 सेकंड तक राउंड किया जाता है, जो हजारों आवृत्तियों में जोड़ जाता है।
• प्रति-सेकंड: आप उसी के लिए भुगतान करते हैं जो वॉल क्लॉक वास्तव में रिकॉर्ड करता है, अक्सर एक छोटा न्यूनतम शुल्क (आमतौर पर पहला मिनट) होता है ताकि दुरुपयोग को रोका जा सके।

एक लंबे प्रशिक्षण रन के लिए, सूक्ष्मता का कोई खास महत्व नहीं होता — 40 घंटे के कार्य पर राउंडिंग त्रुटि सांख्यिकीय रूप से अप्रासंगिक होती है। एक ऑटोस्केलिंग इनफेरेंस फ्लीट जो दिन में सैकड़ों बार इंस्टेंस को चालू और बंद करता है, या एक हाइपरपैरामीटर स्विप जो लगातार कंटेनर लॉन्च और खत्म करता है, के लिए प्रति-सेकंड मापन कंप्यूट के लिए भुगतान और निष्क्रिय राउंडिंग के लिए भुगतान के बीच का अंतर हो सकता है।

कौन से कार्यप्रवाह सबसे अधिक लाभान्वित होते हैं

प्रति-सेकंड बिलिंग किसी भी तीव्र, स्वचालित, या अल्पकालिक कार्य के लिए पुरस्कार देती है:

• बर्स्ट इनफेरेंस और सर्वरलेस-शैली का स्केलिंग: कार्यभार जो GPU क्षमता को अनुरोध मात्रा के अनुसार स्केल करते हैं और मिनटों के भीतर उसे रिलीज़ करते हैं, सबसे अधिक बचत करते हैं, क्योंकि हर स्केल इवेंट पर निष्क्रिय राउंडिंग समाप्त हो जाती है।
• CI/CD और स्वचालित परीक्षण: GPU-समर्थित परीक्षण सूट या मॉडल-मान्यकरण कार्य जो प्रति कमिट कुछ मिनटों के लिए चलते हैं, हर पाइपलाइन ट्रिगर पर पूरे घंटे के ब्लॉक का भुगतान करने से बचते हैं।
• हाइपरपैरामीटर खोज और प्रयोग: दर्जनों छोटे परीक्षण लॉन्च करना, हारने वालों को जल्दी खत्म करना, और केवल आशाजनक कॉन्फ़िगरेशन रखना बहुत सस्ता होता है जब प्रत्येक खत्म किए गए परीक्षण का शुल्क केवल उस सेकंड के लिए होता है जब वह वास्तव में चला।
• इंटरैक्टिव नोटबुक सत्र: एक शोधकर्ता जो दस मिनट के डिबगिंग सत्र के लिए GPU चालू करता है और उसे बंद कर देता है, वह दस मिनट के लिए भुगतान करता है, न कि एक घंटे के लिए।
• अनिश्चित लंबाई के बैच कार्य: फ्रेम रेंडरिंग, एम्बेडिंग का बैच चलाना, या क्लिप ट्रांसकोडिंग जहां प्रति कार्य रनटाइम सेकंड से मिनट तक भिन्न होता है।

इसके विपरीत, यदि आप GPU को कई दिनों तक निरंतर प्रशिक्षण के लिए पिन करते हैं, तो बिलिंग की सूक्ष्मता लगभग अप्रासंगिक हो जाती है और आपको अन्य कारकों — इंटरकनेक्ट, VRAM, स्पॉट डिस्काउंट, और स्टोरेज — को अधिक महत्व देना चाहिए।

ट्रेड-ऑफ और सूक्ष्म विवरण

प्रति-सेकंड बिलिंग लगभग हमेशा सकारात्मक होती है, लेकिन यह अकेले मौजूद नहीं होती, और कुछ विवरण यह निर्धारित करते हैं कि शीर्षक लाभ वास्तविक है या नहीं:

• न्यूनतम शुल्क: कई प्रदाता न्यूनतम बिल योग्य अवधि लागू करते हैं, अक्सर पहला 60 सेकंड। यदि आपके कार्य मिनट से कम हैं, तो यह न्यूनतम महत्वपूर्ण होता है, इसलिए जांचें कि न्यूनतम लागू होता है या नहीं और वह कितनी लंबी है।
• क्लॉक में क्या शामिल है: पुष्टि करें कि बिलिंग इंस्टेंस प्रोविजनिंग, बूट, या GPU के तैयार होने के क्षण से शुरू होती है। धीमे कोल्ड स्टार्ट, इमेज पुल, और ड्राइवर इनिशियलाइज़ेशन सभी मीटर की गई विंडो के अंदर आ सकते हैं, इसलिए तेज़ बिलिंग दर के साथ धीमा बूट बचत को मिटा सकता है।
• स्टोरेज और IP शुल्क: GPU कंप्यूट आपके टर्मिनेट करते ही बिलिंग बंद कर सकता है, लेकिन जुड़े हुए पर्सिस्टेंट वॉल्यूम, स्नैपशॉट, और रिज़र्व्ड IP अक्सर बिलिंग जारी रखते हैं। प्रति-सेकंड कंप्यूट स्टोरेज को मुफ्त नहीं बनाता।
• एग्रीस और डेटा ट्रांसफर: ये आमतौर पर मात्रा के आधार पर बिल किए जाते हैं, समय के आधार पर नहीं, और सूक्ष्मता से अप्रभावित होते हैं — तुलना के लिए एक अलग लाइन आइटम।
• स्पॉट और इंटरप्टिबल प्राइसिंग: प्रति-सेकंड मापन स्वाभाविक रूप से इंटरप्टिबल इंस्टेंस के साथ मेल खाता है, क्योंकि आप उस नोड के लिए दंडित नहीं होते जो पुनः प्राप्ति से पहले केवल कुछ मिनटों के लिए जीवित रहता है। ये दोनों मिलकर दोष-सहिष्णु, चेकपॉइंटेड कार्य के लिए उपयुक्त हैं।

ऊपर तुलना में क्या जांचें

सूची पढ़ते समय, प्रति-सेकंड बिलिंग को कई अक्षरों में से एक के रूप में देखें, न कि एक अकेले निर्णायक कारक के रूप में:

1. पुष्टि करें कि सूक्ष्मता वास्तव में प्रति-सेकंड है, न कि “सेकंड के हिसाब से” ढीले तौर पर विपणन किया गया प्रति-मिनट।
2. न्यूनतम बिल योग्य अवधि और मीटर शुरू होने का बिंदु खोजें।
3. अपने सामान्य कार्य की अवधि और शुरू/रोक आवृत्ति का अनुमान लगाएं — सूक्ष्मता का लाभ उतना ही अधिक होता है जितना आपके कार्य छोटे और बार-बार होते हैं।
4. कंप्यूट बिलिंग को स्टोरेज, नेटवर्किंग, और निष्क्रिय संसाधन शुल्क से अलग करें, जिन्हें सूक्ष्मता संबोधित नहीं करती।
5. GPU मॉडल और ऑन-डिमांड बनाम स्पॉट उपलब्धता के साथ क्रॉस-रेफरेंस करें ताकि आप ऐसे हार्डवेयर पर सेकंडों का अनुकूलन न करें जो कार्यभार के लिए गलत हो।

लाइव दरें लगातार बदलती रहती हैं और क्षेत्र और इंस्टेंस प्रकार के अनुसार भिन्न होती हैं, इसलिए वर्तमान प्रति-सेकंड मूल्य निर्धारण के लिए ऊपर दी गई तुलना का उपयोग करें बजाय किसी निश्चित आंकड़े के।

अक्सर पूछे जाने वाले प्रश्न

क्या प्रति-सेकंड बिलिंग GPUs को वास्तव में सस्ता बनाती है?

यह केवल तब आपके प्रभावी लागत को कम करती है जब आपके कार्य छोटे या बार-बार चक्रित होते हैं। लंबे, निरंतर रन के लिए प्रति-घंटा बिलिंग की तुलना में बचत नगण्य होती है; लेकिन अचानक, ऑटोस्केलिंग, या प्रयोगात्मक कार्यभार के लिए जिनमें कई छोटे इंस्टेंस होते हैं, राउंडिंग समाप्त होने से आपके बिल में वास्तविक कमी हो सकती है।

क्या प्रति-सेकंड बिलिंग के साथ आमतौर पर न्यूनतम शुल्क होता है?

अक्सर हाँ। कई प्रदाता न्यूनतम अवधि का बिल करते हैं — आमतौर पर पहला मिनट — भले ही इंस्टेंस केवल कुछ सेकंड के लिए चले। यह तेज़ चक्र दुरुपयोग को रोकने के लिए होता है। यदि आपके कार्य मिनट से कम हैं, तो न्यूनतम शुल्क की पुष्टि करें इससे पहले कि आप मान लें कि आप केवल वास्तविक सेकंडों के लिए भुगतान कर रहे हैं।

प्रति-सेकंड मीटर कब शुरू और बंद होता है?

यह भिन्न होता है। कुछ प्रदाता प्रोविजनिंग पर मापन शुरू करते हैं, कुछ बूट पर या जब GPU उपयोग के लिए तैयार होता है। कोल्ड-स्टार्ट समय, इमेज पुल, और ड्राइवर सेटअप सभी बिल की गई विंडो में आ सकते हैं, इसलिए तेज़ दर के साथ धीमा स्टार्टअप थोड़ा अधिक दर से बेहतर हो सकता है जो जल्दी बूट होता है।

क्या प्रति-सेकंड बिलिंग स्टोरेज और डेटा ट्रांसफर पर भी लागू होती है?

नहीं। प्रति-सेकंड सूक्ष्मता आमतौर पर केवल GPU कंप्यूट को कवर करती है। पर्सिस्टेंट वॉल्यूम, स्नैपशॉट, रिज़र्व्ड IP, और एग्रीस आमतौर पर अलग से बिल किए जाते हैं — क्षमता या मात्रा के आधार पर — और GPU इंस्टेंस समाप्त होने के बाद भी बढ़ते रहते हैं।