रनपॉड पर एक ही इंस्टेंस में मैं कितने GPUs का उपयोग कर सकता हूँ?

उत्तर

रनपॉड पर वितरित प्रशिक्षण समर्थन:

NVLink इंटरकनेक्ट के साथ प्रति इंस्टेंस 8 GPUs तक। मल्टी-नोड प्रशिक्षण: 1

संदर्भ के लिए, 70B पैरामीटर मॉडल का प्रशिक्षण आमतौर पर 8+ GPUs के साथ उच्च-बैंडविड्थ इंटरकनेक्ट की आवश्यकता होती है। रनपॉड पर उपलब्ध GPU मॉडल में शामिल हैं:

B300, B200, H200, H100 SXM, H100 PCIe, H100 NVL, MI300X, A100 SXM, A100 PCIe, RTX 5090, RTX PRO 6000, L40S, L40, RTX 6000 Ada, RTX 5000 Ada, RTX A6000, RTX A5000, RTX 4090, RTX 4080 SUPER, RTX 4080, RTX 4070 Ti, RTX 3090 Ti, RTX 3090, RTX 3080 Ti, RTX 3080, RTX 3070, A40, A30, A2, L4

मल्टी-GPU इंस्टेंस कॉन्फ़िगरेशन और मूल्य निर्धारण देखने के लिए जाएँ।

देखें कि रनपॉड वितरित प्रशिक्षण अवसंरचना को कैसे संभालता है उनकी आधिकारिक वेबसाइट

रनपॉड के बारे में अधिक सामान्य प्रश्न

मार्गदर्शक जहाँ रनपॉड शामिल है

ये मार्गदर्शक रनपॉड को अन्य क्लाउड GPU प्रदाताओं के साथ GPU फीचर्स, फ्रेमवर्क, उपलब्धता, और डेवलपर आवश्यकताओं के आधार पर समूहित करते हैं।

रनपॉड बनाम लैटीट्यूड.sh बनाम वल्ट्र - GPU प्रदाता तुलना (अप्रैल 2026)

रनपॉड बनाम लैटीट्यूड.sh बनाम वल्ट्र की साइड-बाय-साइड तुलना। अधिकतम फंडिंग, लाभ विभाजन, जोखिम नियम, लीवरेज, प्लेटफ़ॉर्म, उपकरण, भुगतान अनुसूचियां, भुगतान विकल्प, ट्रेडिंग अनुमतियां और KYC प्रतिबंधों को जल्दी से देखें ताकि अपनी प्रॉप ट्रेडिंग फर्म की सूची संकीर्ण कर सकें। डेटा अपडेट किया गया अप्रैल 2026।

रनपॉड बनाम लैटीट्यूड.sh बनाम वल्ट्र - GPU प्रदाता तुलना (अप्रैल 2026)
रनपॉड
एआई के लिए निर्मित क्लाउड — सर्वरलेस अनुमान से लेकर मांग पर त्वरित मल्टी-नोड क्लस्टर्स तक GPU वर्कलोड को तैनात और स्केल करें।
Visit रनपॉड
लैटीट्यूड.sh
23 वैश्विक स्थानों में बेयर मेटल GPU क्लाउड
Visit लैटीट्यूड.sh
वल्ट्र
32 वैश्विक क्षेत्रों में उच्च-प्रदर्शन क्लाउड GPU
Visit वल्ट्र
अवलोकन
ट्रस्टपायलट रेटिंग 3.8 3.7 1.8
मुख्यालय United States Brazil United States
प्रदाता प्रकार GPU-केंद्रित बेयर मेटल मल्टी-क्लाउड
के लिए सर्वश्रेष्ठ एआई प्रशिक्षण अनुमान फाइन-ट्यूनिंग स्टेबल डिफ्यूजन बैच प्रोसेसिंग रेंडरिंग अनुसंधान LLM सेवा जनरेटिव एआई एआई प्रशिक्षण अनुमान बेयर मेटल GPU फाइन-ट्यूनिंग अनुसंधान समर्पित कार्यभार जनरेटिव एआई एआई प्रशिक्षण अनुमान वीडियो रेंडरिंग उच्च प्रदर्शन कंप्यूटिंग स्टेबल डिफ्यूजन खेल विकास जनरेटिव एआई फाइन-ट्यूनिंग अनुसंधान
GPU Hardware
जीपीयू मॉडल B300 B200 H200 H100 SXM H100 PCIe H100 NVL MI300X A100 SXM A100 PCIe RTX 5090 RTX PRO 6000 L40S L40 RTX 6000 Ada RTX 5000 Ada RTX A6000 RTX A5000 RTX 4090 RTX 4080 SUPER RTX 4080 RTX 4070 Ti RTX 3090 Ti RTX 3090 RTX 3080 Ti RTX 3080 RTX 3070 A40 A30 A2 L4 A30 RTX A5000 RTX A6000 L40S RTX 6000 Ada A100 SXM H100 SXM GH200 RTX PRO 6000 A16 A40 L40S A100 PCIe GH200 A100 SXM H100 SXM B200 B300 MI300X MI325X MI355X
अधिकतम वीआरएएम (जीबी) 288 96 288
अधिकतम जीपीयू/इंस्टेंस 8 8 16
इंटरकनेक्ट NVLink NVLink NVLink
Pricing
प्रारंभिक मूल्य ($/घंटा) $0.06/hr $0.35/hr $0.47/hr
बिलिंग विवरण प्रति सेकंड प्रति घंटा प्रति घंटा
स्पॉट/पूर्वनिर्धारित 1 0 1
आरक्षित छूट 15-29% (1 महीने से 1 साल की योजनाओं के लिए) लागू नहीं लागू नहीं
मुफ्त क्रेडिट पहले $10 खर्च के बाद $5-$500 बोनस रेफरल प्रोग्राम के माध्यम से $200 30 दिनों के लिए $300 तक मुफ्त क्रेडिट
निकासी शुल्क कोई नहीं (मुफ़्त) कोई नहीं मानक (योजना के अनुसार भिन्न)
भंडारण कंटेनर/वॉल्यूम ($0.10/GB/माह), निष्क्रिय वॉल्यूम ($0.20/GB/माह), नेटवर्क स्टोरेज ($0.07/GB/माह 1TB) स्थानीय NVMe शामिल (4x 3.8TB तक), ब्लॉक स्टोरेज $0.10/GB/माह, फाइल सिस्टम स्टोरेज $0.05/GB/माह 350 GB - 61 TB NVMe (शामिल), ब्लॉक स्टोरेज $0.10/GB/माह, S3-संगत ऑब्जेक्ट स्टोरेज
Infrastructure
क्षेत्र 31 वैश्विक क्षेत्र 23 स्थान: यूएस (8 शहर), लैटिन अमेरिका (5), यूरोप (5), एशिया-प्रशांत (4), मेक्सिको सिटी। GPU डलास, फ्रैंकफर्ट, सिडनी, टोक्यो में 6 महाद्वीपों में 32 क्षेत्र (अमेरिका, यूरोप, एशिया, ऑस्ट्रेलिया, अफ्रीका)
अपटाइम एसएलए 99.99% 99.9% 100%
Developer Experience
फ्रेमवर्क PyTorch TensorFlow JAX ONNX CUDA ML-अनुकूलित इमेज PyTorch TensorFlow (उपयोगकर्ता-स्थापित) CUDA PyTorch TensorFlow CUDA cuDNN ROCm Hugging Face NVIDIA NGC
डॉकर समर्थन 1 1 1
एसएसएच एक्सेस 1 1 1
ज्यूपिटर नोटबुक्स 1 0 1
एपीआई / सीएलआई 1 1 1
सेटअप समय तुरंत सेकंड मिनट
Kubernetes Support 0 0 1
Business Terms
न्यूनतम प्रतिबद्धता कोई नहीं कोई नहीं कोई नहीं
अनुपालन SOC 2 टाइप II एकल-भाड़ेदार पृथक्करण DPA उपलब्ध SOC 2+ (HIPAA) PCI ISO 27001 ISO 27017 ISO 27018 ISO 20000-1 CSA STAR स्तर 1
रनपॉड लैटीट्यूड.sh वल्ट्र