NVIDIA B100 প্রতি সেকেন্ডে কত ছবি তৈরি করতে পারে?

উত্তর

NVIDIA B100 এর বেঞ্চমার্কড কর্মক্ষমতা: FP16-এ 1,750 TFLOPS, FP32-এ 60 TFLOPS, 8,000 GB/s মেমোরি ব্যান্ডউইথ, 192 GB VRAM।

ইঞ্জিনিয়ারদের জন্য সবচেয়ে গুরুত্বপূর্ণ ওয়ার্কলোড — ট্রান্সফরমার-ফ্যামিলি মডেল ট্রেনিং, LLM লো-লেটেন্সি ইনফারেন্স সার্ভিং, ডিফিউশন এবং ভিশন পাইপলাইন চালানো — এই স্পেসিফিকেশনগুলো টেনসর কোর ব্যস্ত রাখার জন্য যথেষ্ট ব্যাচ সাইজ বজায় রাখতে পারে। পূর্ববর্তী প্রজন্মের Blackwell কার্ডের তুলনায় ওয়াল-ক্লক গেইন ১.৫x থেকে ৩x পর্যন্ত হতে পারে ওয়ার্কলোডের ধরন অনুযায়ী।

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.