هل NVIDIA GH200 Superchip بطاقة مخصصة لمراكز البيانات، محترفين، أم للمستهلكين؟

الإجابة

NVIDIA GH200 Superchip مبنية على معمارية Hopper وتأتي مع 96 جيجابايت من ذاكرة HBM3 عند عرض نطاق ترددي 4,000 جيجابايت/ثانية. أُطلقت في 2023، وتقدم البطاقة 989 تيرافلوبس FP16 و 494.5 تيرافلوبس FP32 عند استهلاك طاقة حرارية 700 واط.

لباحثي التعلم الآلي، تترجم تلك الأرقام إلى عدة حدود عملية: سقف VRAM يحدد أكبر أوزان نموذج لغة كبيرة يمكنك تحميلها (وأقصى حجم دفعة عند طول تسلسل معين)، بينما يحدد عرض النطاق الترددي الحد الأعلى للاستدلال الثقيل على الانتباه. معدل الحوسبة مهم بشكل خاص لعمليات ضرب المصفوفات الكثيفة — التدريب المسبق، التدريب المسبق على دفعات كبيرة، والانتشار.

See the NVIDIA GH200 Superchip page for the full spec sheet and comparisons to related GPUs.