کیا NVIDIA GH200 Superchip ڈیٹا سینٹر، پروفیشنل، یا کنزیومر کارڈ ہے؟

جواب

NVIDIA GH200 Superchip Hopper آرکیٹیکچر پر بنایا گیا ہے اور 96 جی بی HBM3 میموری کے ساتھ 4,000 جی بی/سیکنڈ بینڈوڈتھ فراہم کرتا ہے۔ 2023 میں ریلیز ہوا، کارڈ 989 FP16 TFLOPS اور 494.5 FP32 TFLOPS فراہم کرتا ہے اور 700 واٹ ٹی ڈی پی رکھتا ہے۔

مشین لرننگ کے محققین کے لیے، یہ اعداد کئی عملی حدود میں ترجمہ ہوتے ہیں: وی آر اے ایم کی حد سب سے بڑے لارج لینگویج ماڈل وزنوں کو لوڈ کرنے کا تعین کرتی ہے (اور دیے گئے سیکوئنس لمبائی پر زیادہ سے زیادہ بیچ سائز)، جبکہ میموری بینڈوڈتھ اٹینشن-ہیوی انفیرنس کے لیے اوپری حد مقرر کرتی ہے۔ کمپیوٹ تھروپٹ زیادہ تر ڈینس میٹرکس ملٹیپلیکیشنز کے لیے اہم ہے — پری-ٹریننگ، بڑے بیچ پری-ٹریننگ، اور ڈفیوزن۔

See the NVIDIA GH200 Superchip page for the full spec sheet and comparisons to related GPUs.