NVIDIA B100 प्रति सेकंड कितनी छवियाँ उत्पन्न कर सकता है?

उत्तर

NVIDIA B100 पर बेंचमार्क प्रदर्शन: FP16 में 1,750 TFLOPS, FP32 में 60 TFLOPS, 8,000 GB/s मेमोरी बैंडविड्थ, 192 GB VRAM।

उन कार्यभारों के लिए जिनकी अधिकांश इंजीनियरों को परवाह है — ट्रांसफॉर्मर-परिवार के मॉडल प्रशिक्षण, LLM कम विलंबता अनुमान सेवा, डिफ्यूजन और दृष्टि पाइपलाइनों को चलाना — ये विनिर्देश टेंसर कोर को व्यस्त रखने वाले बैच आकारों को बनाए रखने के लिए पर्याप्त हैं। अपेक्षित दीवार-घड़ी लाभ पिछले पीढ़ी के Blackwell कार्डों की तुलना में कार्यभार के आकार के आधार पर 1.5x से 3x तक हो सकते हैं।

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.