أفضل مزودي وحدات معالجة الرسومات السحابية مع NVIDIA H100

ما هو NVIDIA H100 في الواقع

يُعد H100 معجّل مركز البيانات من NVIDIA المبني على معمارية Hopper، الجيل الذي يقع بين الأجزاء الأقدم Ampere A100 والأجزاء الأحدث Blackwell. وهو وحدة معالجة الرسومات التي يلجأ إليها معظم الفرق عندما يرغبون في تدريب نماذج كبيرة بشكل جدي أو استدلال عالي الإنتاجية دون النزول إلى بطاقات المستهلكين. عند استئجار مثيل H100 من المقارنة أعلاه، فإنك تستأجر معجّل ذكاء اصطناعي مخصص بدلاً من وحدة معالجة رسومات مخصصة للألعاب، وهذا يشكل كل من ما يمكنها فعله وتكلفتها.

الصفات الرئيسية للأجهزة التي تهم المستأجر:

• الذاكرة: نسخة SXM5 تأتي مع 80 جيجابايت من HBM3، بينما نسخة PCIe تستخدم HBM2e، أيضًا بسعة 80 جيجابايت في الجزء الرئيسي. تحديث لاحق، H100 NVL، يزيد السعة لكل بطاقة. الذاكرة الكبيرة والسريعة HBM هي السبب الأكبر لاختيار هذه البطاقة على الخيارات القائمة على GDDR6.
• عرض النطاق الترددي للذاكرة: HBM3 على نسخة SXM5 توفر حوالي 3 تيرابايت/ثانية، وهو أعلى بكثير مما تصل إليه بطاقات GDDR6/GDDR6X للمستهلكين. عرض النطاق الترددي، وليس FLOPs الخام، هو ما يبقي طبقات المحولات الكبيرة مزودة بالبيانات.
• أنوية التنسور والدقة: أنوية التنسور من الجيل الرابع تدعم FP16، BF16، TF32، INT8، و — جديد مع Hopper — FP8. FP8 هو الميزة الرئيسية لأعباء عمل نماذج اللغة الكبيرة الحديثة، حيث يضاعف تقريبًا الإنتاجية مقارنة بـ FP16 على النوى المدعومة مع الحفاظ على دقة مقبولة مع المقياس الصحيح.
• محرك المحولات: تجمع Hopper بين أجهزة FP8 وبرمجيات تدير الدقة ديناميكيًا لكل طبقة، ولهذا السبب يمكن لإنتاجية H100 في تدريب واستدلال المحولات أن تتفوق بشكل كبير على الجيل السابق على نفس النموذج.
• الاتصال البيني: تستخدم لوحات SXM5 NVLink وNVSwitch من الجيل الرابع لروابط عالية النطاق الترددي بين وحدات معالجة الرسومات داخل العقدة، بينما تعتمد بطاقات PCIe على ناقل PCIe (مع جسور NVLink اختيارية في بعض النسخ). هذا التمييز مهم جدًا لوظائف متعددة وحدات معالجة الرسومات.
• فئة الطاقة: بطاقة SXM5 هي جزء بقدرة حوالي 700 واط في هيكل خادم يحتوي على 8 وحدات معالجة رسومات؛ بطاقة PCIe أقل، حوالي 350 واط. أنت لا تدفع فاتورة الطاقة مباشرة عند الاستئجار، لكن هذا يفسر لماذا هذه المثيلات كثيفة وساخنة ومُسعّرة وفقًا لذلك.

الأعباء التي يناسبها H100 حقًا

يبرهن H100 على جدارته في الوظائف التي تعتمد على الذاكرة وتحتاج إلى إنتاجية عالية. إنه مناسب بقوة لـ:

• تدريب النماذج الكبيرة وضبطها الدقيق: 80 جيجابايت من HBM تتيح لك حمل دفعات أكبر وأجزاء أكبر من المعلمات لكل وحدة معالجة رسومات، وNVLink يجعل التوسع متعدد وحدات معالجة الرسومات ومتعدد العقد فعالًا لتدريب البيانات والتنسور بالتوازي.
• استدلال نماذج اللغة الكبيرة عالي الإنتاجية: FP8 ومحرك المحولات يجعلانها ممتازة لخدمة نماذج اللغة الكبيرة بحجم طلبات مرتفع، حيث تهتم بعدد الرموز في الثانية لكل دولار.
• ضبط النماذج المتوسطة إلى الكبيرة: الضبط الكامل والأساليب الفعالة للمعلمات على نماذج بمليارات المعلمات تناسب بشكل مريح حيث تجبر بطاقات VRAM الأصغر على تفريغ البيانات بشكل مكثف.
• الحوسبة العلمية وحوسبة الأداء العالي: إنتاجية FP64 القوية (على عكس بطاقات المستهلكين التي تكون ضعيفة عمدًا هنا) تجعلها صالحة للمحاكاة والأعمال العددية، وليس فقط الذكاء الاصطناعي.

إنها مفرطة للتجارب على النماذج الصغيرة، والاستدلال الخفيف للنماذج المدمجة، والتعلم الآلي الكلاسيكي، والمفكرات، ومعظم أعمال العرض أو التصور — تلك تعمل جيدًا على بطاقات أرخص بكثير، واستئجار H100 لها هو في الغالب إهدار للمال. نادرًا ما تكون غير كافية للعمل على عقدة واحدة؛ الشيء الرئيسي الذي يدفع الفرق لتجاوزها هو الحاجة إلى ذاكرة إجمالية أكبر مما توفره عقدة واحدة من هذه البطاقات، أو الرغبة في تحقيق مكاسب كفاءة من الجيل الأحدث.

SXM مقابل PCIe — النسخة التي تستأجرها مهمة

هذا هو التفصيل الأكثر إغفالًا عند الاستئجار. تقدم لوحات SXM5 عرض نطاق ترددي أعلى، ونسيج NVLink/NVSwitch كامل، وسرعات مستمرة أعلى، ولهذا السبب يستخدم التدريب متعدد وحدات معالجة الرسومات الجاد هذه اللوحات تقريبًا دائمًا. بطاقات PCIe أرخص للاستضافة ومناسبة للاستدلال على وحدة معالجة رسومات واحدة أو الوظائف الأصغر، لكن روابطها بين وحدات معالجة الرسومات أبطأ. إذا لم يذكر الإعلان أعلاه النسخة، اعتبر ذلك سؤالًا يجب حله قبل الالتزام بتشغيل تدريب متعدد وحدات معالجة الرسومات.

تكلفة الإيجار والتوافر والندرة

في طيف تكلفة وحدات معالجة الرسومات السحابية، يقع H100 بالقرب من القمة — فوق A100 وبعيدًا فوق بطاقات المستهلك مثل RTX 4090 — رغم أنه تم استبداله من القمة المطلقة بواسطة أجهزة الجيل الأحدث من فئة Blackwell. نظرًا لأن الأسعار الدقيقة تتحرك باستمرار وتختلف حسب المزود والمنطقة ومدة الالتزام والنسخة، يجب عليك قراءة الأرقام الحية من المقارنة أعلاه بدلاً من الوثوق بأي رقم ثابت. هناك بعض النقاط النوعية التي تبقى ثابتة:

• عند الطلب مقابل الفوري: يمكن أن تكون سعة H100 القابلة للمقاطعة أو الفورية أرخص بكثير من الطلب عند الطلب، مما يناسب التدريب مع نقاط التحقق والاستدلال الدفعي المتحمل للأخطاء، لكنه محفوف بالمخاطر للوظائف الطويلة ذات اللقطة الواحدة بدون نقاط تحقق جيدة.
• الندرة: كان توفر H100 تاريخيًا ضيقًا، لذا يختلف التوفر — وليس السعر فقط — حسب المنطقة والمزود. الإعلان الأرخص لا قيمة له إذا كانت السعة مباعة في منطقتك.
• لكل وحدة معالجة رسومات مقابل العقدة الكاملة: يستأجر العديد من المزودين وحدات H100 فردية، لكن أفضل أداء متعدد وحدات معالجة الرسومات يأتي من عقد NVLink كاملة تحتوي على 8 وحدات معالجة رسومات؛ تحقق مما إذا كنت تحصل على وصول جزئي أو فردي أو عقدة كاملة.
• دقة الفوترة: الفوترة بالثانية أو الدقيقة تفضل الضبط الدقيق القصير والاستدلال المتقطع؛ الحد الأدنى بالساعة يفضل الجلسات الطويلة. طابق النموذج مع نمط عبء العمل الخاص بك.

الأسئلة المتكررة

كم تبلغ ذاكرة VRAM في H100 السحابي؟

يحمل H100 الرئيسي 80 جيجابايت من ذاكرة عالية النطاق الترددي — HBM3 في نسخة SXM5 وHBM2e في نسخة PCIe. تحديث H100 NVL اللاحق يزيد السعة لكل بطاقة. تأكد دائمًا من النسخة الدقيقة وقيمة الذاكرة في الإعلان أعلاه، لأن ذلك يحدد أكبر نموذج وحجم دفعة يمكنك تشغيله بدون تفريغ.

هل يستحق H100 الاستئجار بدلاً من A100؟

بالنسبة لتدريب المحولات والاستدلال، عادةً نعم: دعم FP8 في Hopper ومحرك المحولات يمكن أن يوفر إنتاجية أعلى بشكل ملموس لكل وحدة معالجة رسومات مقارنة بـ A100 من Ampere، مما يعوض غالبًا السعر الأعلى بالساعة على أساس تكلفة لكل رمز أو لكل خطوة. للوظائف الصغيرة أو الخفيفة الذاكرة التي لا تستفيد من FP8، قد تكون A100 الأرخص أو بطاقة المستهلك هي القيمة الأفضل.

هل يجب أن أختار SXM5 أم PCIe H100؟

اختر SXM5 للتدريب متعدد وحدات معالجة الرسومات والوظائف الموزعة المتقاربة، لأن نسيج NVLink/NVSwitch وعرض النطاق الترددي الأعلى يتوسع بشكل أفضل عبر وحدات معالجة الرسومات. PCIe جيد وغالبًا أرخص للاستدلال على وحدة معالجة رسومات واحدة أو الوظائف الأصغر. إذا لم تُذكر النسخة، اسأل قبل حجز تشغيل متعدد وحدات معالجة الرسومات.

هل يمكنني توفير المال باستخدام مثيلات H100 الفورية أو القابلة للمقاطعة؟

نعم، السعة القابلة للمقاطعة عادة ما تكون أرخص بكثير من الطلب عند الطلب، وتعمل جيدًا للتدريب مع نقاط تحقق متكررة أو للاستدلال الدفعي الذي يتحمل إعادة التشغيل. تجنبها للوظائف الطويلة غير المحققة حيث قد يؤدي الطرد في منتصف التشغيل إلى إضاعة ساعات من الحوسبة المدفوعة. قارن بين وضعي التسعير في الجدول أعلاه.