GPU मॉडल गाइड

VRAM द्वारा

VRAM क्षमता के अनुसार क्लाउड GPU फ़िल्टर करें, 12 GB से लेकर 288 GB+ तक।

इस श्रेणी में

हर क्लाउड जीपीयू जिसमें कम से कम 12 जीबी वीआरएएम हो — आधुनिक छोटे से मध्यम LLMs, इमेज-जनरेशन, और अधिकांश फाइन-ट्यूनिंग कार्यों के लिए…

141 GB+ VRAM — H200-श्रेणी और उससे ऊपर। एकल नोड पर Llama-3.1 405B या DeepSeek-V3 को चलाने के लिए न्यूनतम।

16 GB+ VRAM वाले क्लाउड GPU — SDXL इनफेरेंस, 7B-13B मॉडल फाइन-ट्यूनिंग, और अधिकांश प्रोडक्शन इनफेरेंस कार्यभार के लिए उपयुक्त।

192 जीबी+ वीआरएएम — ब्लैकवेल-क्लास और MI300X। ट्रिलियन-पैरामीटर रेजिम वर्कलोड्स के लिए प्रति जीपीयू अधिकतम ऑन-डिवाइस क्षमता।

24 जीबी+ वीआरएएम वाले जीपीयू 13B-30B मॉडल अनुमान, बड़े बैच आकार, और लंबे संदर्भ विंडो को सक्षम करते हैं।

256 GB+ VRAM — अग्रणी AI प्रशिक्षण क्षेत्र। MI325X, MI350X, MI355X, B300, GB200।

288 GB+ वीआरएएम — आज उपलब्ध एकल-जीपीयू मेमोरी क्षमता का सर्वोच्च स्तर।

32 GB+ वीआरएएम वाले जीपीयू — गंभीर प्रशिक्षण और 30B+ मॉडल फाइन-ट्यूनिंग के लिए प्रवेश बिंदु बिना शार्डिंग के।

48 GB+ वीआरएएम एकल जीपीयू पर 30B-70B मॉडल्स को फाइन-ट्यून करने और उत्पादन मल्टी-टेनेंट इनफेरेंस के लिए आदर्श है।

64 जीबी+ वीआरएएम — प्रीमियम पेशेवर कार्यभार और बड़े डेटा-सेंटर वर्ग के जीपीयू को कवर करता है।

80 GB+ वीआरएएम फ्रंटियर एआई प्रशिक्षण के लिए डिफ़ॉल्ट है (A100 80GB, H100, H200, B200, MI300X)। हर विकल्प की तुलना एक साथ करें।

96 जीबी+ वीआरएएम — बिना शार्डिंग के 70B+ मॉडल प्रशिक्षण के लिए और सबसे बड़े खुले मॉडलों के मल्टी-जीपीयू अनुमान के लिए।