أفضل مزودي وحدات معالجة الرسومات السحابية مع NVIDIA GH200

ما هو شريحة NVIDIA GH200 Grace Hopper Superchip في الواقع

شريحة GH200 ليست بطاقة GPU تقليدية تُضاف إلى النظام. إنها شريحة فائقة تدمج بين وحدة معالجة الرسومات من جيل Hopper من فئة H100 ووحدة معالجة مركزية Grace مبنية على معمارية Arm Neoverse ذات 72 نواة في وحدة واحدة، مرتبطة بواسطة NVLink-C2C — وهو اتصال متماسك بين الشريحتين يربط وحدة المعالجة المركزية ووحدة معالجة الرسومات بعرض نطاق ترددي أعلى بكثير من فتحة PCIe العادية. عندما تستأجر مثيل GH200 من المقارنة أعلاه، فإنك تستأجر حزمة CPU+GPU كاملة، وليس فقط GPU تُركب على وحدة المعالجة المركزية الخاصة بشخص آخر.

هذه البنية هي الهدف الرئيسي. لأن وحدة المعالجة المركزية Grace ووحدة معالجة الرسومات Hopper تشتركان في مساحة ذاكرة متماسكة عبر NVLink-C2C، يمكن لوحدة معالجة الرسومات الوصول إلى مجموعة ذاكرة LPDDR5X الكبيرة لوحدة المعالجة المركزية دون عنق الزجاجة المعتاد في PCIe. بالنسبة لأعباء العمل التي يتجاوز فيها النموذج أو مجموعة البيانات ذاكرة وحدة معالجة الرسومات عالية النطاق الترددي الخاصة بها، يغير هذا ما هو عملي للتشغيل على عقدة واحدة.

الأجهزة المهمة عند استئجارها

• ذاكرة GPU: جانب GPU من Hopper يحمل HBM3 في GH200 الأصلي وHBM3e في النسخة ذات السعة الأعلى. سترى تكوينات معلنة بحوالي 96 جيجابايت من HBM3 وحوالي 141 جيجابايت من HBM3e لكل شريحة فائقة — تحقق من الرقم الدقيق في القائمة أعلاه، لأن سعة الذاكرة هي الفارق الأكبر بين إصدارات GH200.
• ذاكرة النظام: تضيف وحدة المعالجة المركزية Grace بنكًا كبيرًا من LPDDR5X (عادة ما يُذكر حوالي 480 جيجابايت)، يمكن لوحدة معالجة الرسومات الوصول إليها بشكل متماسك. مع HBM، تكشف شريحة GH200 واحدة عن مساحة عنوان موحدة كبيرة جدًا — مفيدة للتضمينات الكبيرة، وذاكرات KV، وأعباء عمل الرسوم البيانية أو التوصيات.
• عرض نطاق الذاكرة: توفر HBM3/HBM3e عدة تيرابايت في الثانية لوحدة معالجة الرسومات، بينما يوفر NVLink-C2C مئات جيجابايت في الثانية من عرض النطاق الترددي المتماسك بين وحدة المعالجة المركزية ووحدة معالجة الرسومات — أي تقريبًا بمقدار عشرة أضعاف رابط PCIe 5.0 x16.
• الحوسبة والدقة: كجزء من Hopper، تتضمن وحدة معالجة الرسومات أنوية Tensor من الجيل الرابع ومحرك Transformer، مع دعم مادي لـ FP8، BF16، FP16، TF32، INT8، وFP64. FP8 على وجه الخصوص هو ما يجعل Hopper جذابة لكل من تدريب نماذج اللغة الكبيرة والاستدلال عالي الإنتاجية.
• توسيع متعدد وحدات معالجة الرسومات: يمكن ربط وحدات GH200 باستخدام NVLink، وفي تصاميم رفوف NVL32، نسيج مفتاح NVLink، بحيث تتصرف عدة شرائح فائقة كمعجل واحد كبير بدلاً من مجموعة PCIe منفصلة.
• فئة الطاقة والحرارة: هذه وحدة مخصصة لمراكز البيانات فقط، ذات استهلاك طاقة عالي (عادة ما يمكن تكوينها حتى حوالي 1000 واط بما في ذلك وحدة المعالجة المركزية). يتم تبريدها بالسائل أو تبريد هوائي مكثف في المضيف، ولهذا السبب يرتبط توفرها بالمضيفين المتخصصين بدلاً من الخوادم العادية.

أعباء العمل التي تناسب GH200 حقًا

تحصل GH200 على مكانتها حيث تقوم ذاكرة وحدة المعالجة المركزية ووحدة معالجة الرسومات المتماسكة وعرض نطاق HBM بعمل حقيقي:

• الاستدلال على نماذج كبيرة وسياق طويل: تستفيد ذاكرات KV الكبيرة والأوزان الكبيرة من الجمع بين HBM والتدفق الزائد إلى LPDDR5X في Grace، مما يسمح لعقدة واحدة بخدمة نماذج كانت ستحتاج إلى تقسيم عبر عدة وحدات معالجة رسومات منفصلة.
• ضبط وتدريب نماذج اللغة الكبيرة: يجعل FP8 وBF16 عبر محرك Transformer الجهاز قويًا لتدريب المحولات وضبط المعلمات بكفاءة، خاصة عندما تكون مجموعات البيانات أو حالات المحسن تتطلب ذاكرة كبيرة.
• أعباء عمل التوصية، GNN، والمتجهات: أي شيء يمرر جداول أو رسوم بيانية كبيرة بين ذاكرة وحدة المعالجة المركزية ووحدة معالجة الرسومات يستفيد مباشرة من تماسك NVLink-C2C.
• الحوسبة عالية الأداء والحوسبة العلمية: FP64 الأصلي بالإضافة إلى الترابط الوثيق بين وحدة المعالجة المركزية ووحدة معالجة الرسومات يناسب خطوط أنابيب المحاكاة وتحليل البيانات التي تدمج العمل العددي لوحدة المعالجة المركزية مع نوى وحدة معالجة الرسومات.

إنه مفرط للتجارب على النماذج الصغيرة، وضبط الرؤية الحاسوبية الكلاسيكية التي تناسب بسهولة 24–48 جيجابايت، والوظائف الدُفعية التي لا تكون مقيدة بالذاكرة، ومعظم الاستدلال في الوقت الحقيقي للنماذج الصغيرة — ستكون بطاقة Ada أو Ampere الأرخص من الكتالوج الأوسع أكثر فعالية من حيث التكلفة هناك. كما أن GH200 ليست مناسبة جيدًا للرسومات، الألعاب، أو عرض العمل: فهي لا تحتوي على مخارج عرض ومبنية للحوسبة، وليس للرسترية.

سياق الإيجار: التكلفة، التوفر، وما يجب مقارنته

تقع GH200 بالقرب من قمة طيف تكلفة GPU السحابي، في نفس الفئة المميزة مثل مثيلات فئة H100، لأنك تدفع مقابل HBM، وحدة معالجة مركزية Grace المدمجة، والاتصال عالي النطاق الترددي. العرض نادر حقًا مقارنة بالطلب، لذلك تميل إلى الظهور على المضيفين المتخصصين والمركزين على الذكاء الاصطناعي بدلاً من كل سحابة عامة، وقد تنفد القدرة عند الطلب. توجد أسعار فورية أو قابلة للمقاطعة في بعض الأماكن لكنها أقل شيوعًا وأقل عمقًا من المسرعات الأقدم. للحصول على الأسعار الحية الخاصة بالمزود، اعتمد على المقارنة أعلاه بدلاً من أي رقم ثابت، لأن الأسعار تتحرك وتختلف حسب المنطقة ومدة الالتزام.

عند قراءة الجدول، قِس هذه الأبعاد:

• سعة HBM (96 جيجابايت HBM3 مقابل ~141 جيجابايت HBM3e) — هذا يحدد أكبر نموذج يمكنك الاحتفاظ به في الذاكرة.
• التوفر عند الطلب مقابل المحجوز مقابل الفوري، والحد الأدنى للالتزام.
• طوبولوجيا الاتصال لتدريب متعدد العقد (نسيج NVLink مقابل إيثرنت/إنفيني باند عادي بين العقد).
• معدل نقل التخزين ورسوم الخروج، التي غالبًا ما تهيمن على التكلفة الإجمالية لتدريب البيانات الثقيلة.
• دقة الفوترة (بالثانية مقابل بالساعة) إذا كانت وظائفك قصيرة أو متقطعة.

الأسئلة المتكررة

هل GH200 هي نفسها H100؟

ليس تمامًا. تحتوي GH200 على وحدة معالجة رسومات Hopper مرتبطة ارتباطًا وثيقًا بـ H100، لكنها تُشحن كشريحة فائقة مدمجة مع وحدة معالجة مركزية Grace Arm ذات 72 نواة واتصال متماسك NVLink-C2C. H100 المستقلة هي فقط وحدة معالجة الرسومات مقرونة بأي مضيف x86 يوفره المزود، لذا فإن ميزة GH200 هي تجمع الذاكرة المتماسكة الكبير والمترابط بين وحدة المعالجة المركزية ووحدة معالجة الرسومات.

كم ذاكرة تحتوي GH200؟

يعتمد ذلك على النسخة. يحمل جانب GPU حوالي 96 جيجابايت من HBM3 أو حوالي 141 جيجابايت من HBM3e، وتضيف وحدة المعالجة المركزية Grace بنكًا كبيرًا من LPDDR5X (عادة ما يُذكر حوالي 480 جيجابايت) يمكن لوحدة معالجة الرسومات الوصول إليه بشكل متماسك. تحقق من الرقم الدقيق لـ HBM في القائمة أعلاه، لأنه يختلف حسب الإصدار وهو المواصفة التي تحدد حجم النموذج.

ما الدقة التي تدعمها GH200 للذكاء الاصطناعي؟

كونها جزءًا من Hopper، تدعم FP8، BF16، FP16، TF32، INT8، وFP64 عبر أنوية Tensor من الجيل الرابع ومحرك Transformer. FP8 هي الميزة الرئيسية لتدريب النماذج الكبيرة بكفاءة والاستدلال عالي الإنتاجية.

متى لا يكون استئجار GH200 مجديًا؟

إذا كان نموذجك يناسب بسهولة 24–48 جيجابايت، أو أن عبء العمل الخاص بك غير مقيد بعرض نطاق الذاكرة، أو كنت تحتاج فقط إلى استدلال في الوقت الحقيقي لنماذج صغيرة، فإن مثيل Ada أو Ampere الأرخص سيقدم قيمة أفضل. تدفع GH200 ثمنها تحديدًا عندما تكون الذاكرة الكبيرة، عرض نطاق HBM، أو حركة البيانات المتماسكة بين وحدة المعالجة المركزية ووحدة معالجة الرسومات هي عنق الزجاجة.