أفضل مزودي وحدات معالجة الرسومات السحابية مع AMD MI300X

ما هو AMD MI300X فعليًا

يُعد MI300X مسرع مركز البيانات الرائد من AMD المبني على معمارية CDNA 3، والمصمم خصيصًا للتنافس في تدريب ونمذجة اللغات الكبيرة. الميزة المميزة عند استئجاره هي الذاكرة: يحمل كل MI300X 192 جيجابايت من HBM3 مع عرض نطاق ترددي إجمالي عالي جدًا في نطاق عدة تيرابايت في الثانية. هذه الذاكرة على الرقاقة أكبر بكثير من معظم المسرعات المفردة المنافسة في جيله، وهي السبب الأكبر الذي يدفع المستأجرين لاختيار هذه البطاقة.

من الناحية المعمارية، هو تصميم شريحة متعددة الأجزاء، حيث يتم تجميع عدة شرائح حسابية (XCDs) مع ذاكرة HBM3 مكدسة فوق وصلة متقدمة. لدعم العمليات الحسابية للذكاء الاصطناعي، يدعم الدقة التي تهم اليوم، بما في ذلك FP16, BF16, FP8, و INT8، التي تُنفذ على محركات مصفوفية مخصصة تُعد نظير AMD لنوى التنسور. هو جزء عالي الطاقة، يستخدم التبريد السائل أو تدفق هواء عالي في مراكز البيانات ضمن فئة حوالي 750 واط، لذلك ستجده فقط داخل رف مزود الخدمة، وليس كخيار مكتبي.

لماذا تهم الذاكرة لأعباء العمل المستأجرة

عند استئجار حساب GPU، عادةً ما تكون ذاكرة الفيديو (VRAM) هي الحاجز الأول الذي تواجهه، وذاكرة 192 جيجابايت في MI300X تغير الحسابات المتعلقة بعدد البطاقات التي يحتاجها العمل. العواقب العملية:

• نماذج أكبر لكل GPU. النماذج التي عادةً ما تُقسم عبر عدة مسرعات من فئة 80 جيجابايت يمكن غالبًا أن تتناسب على عدد أقل من بطاقات MI300X، أو حتى بطاقة واحدة للعديد من النماذج المفتوحة الوزن، مما يبسط النشر ويمكن أن يقلل من عبء التواصل بين وحدات GPU.
• سياق أطول وحزم أكبر. المساحة الإضافية تتيح لك تقديم نوافذ سياق أطول أو دفع أحجام دفعات استدلال أكبر قبل نفاد الذاكرة، مما يحسن مباشرةً العائد مقابل التكلفة في أعباء العمل الخدمية.
• تقليل التفريغ العدواني. مهام التخصيص الدقيق التي كانت ستنقل حالة المحسن إلى وحدة المعالجة المركزية أو القرص يمكن أن تبقى مقيمة في HBM3، مما يحافظ على انشغال المسرع بدلاً من التوقف أثناء النقل.

عرض النطاق الترددي العالي لـ HBM3 هو ما يجعل تلك السعة قابلة للاستخدام وليس مجرد اسمية: الخطوات المحدودة بالذاكرة مثل الانتباه والضربات المصفوفية الكبيرة تستفيد من تغذية محركات المصفوفة بسرعة، وهو المكان الذي يُقضى فيه الكثير من وقت الاستدلال الحقيقي.

الوصلة والتوسع متعدد وحدات GPU

للمهام التي تحتاج أكثر من مسرع واحد، عادةً ما تُسلم أنظمة MI300X كنودات ثمانية وحدات GPU مرتبطة بواسطة Infinity Fabric من AMD، مما يوفر اتصالًا عالي النطاق الترددي بين وحدات GPU داخل الصندوق. هذا هو الدور المكافئ الذي يلعبه NVLink على الأجهزة المنافسة، وهو ما يجعل التدريب المتوازي بالتنسور وخط الأنابيب ممكنًا. عند النظر إلى المقارنة أعلاه، تحقق مما إذا كانت الحالة عبارة عن بطاقة واحدة أو عقدة كاملة، لأن أداء التدريب الموزع يعتمد بشكل كبير على تلك الوصلة داخل العقدة، والتوسع خارج عقدة واحدة يعتمد على شبكة مزود الخدمة بدلاً من وحدة GPU نفسها.

ما هي أعباء العمل التي تناسبه حقًا

يُعد MI300X مسرعًا من الدرجة الأولى، لذا فهو مناسب للمهام المتطلبة:

• الاستدلال والخدمة للنماذج الكبيرة. هذا هو الاستخدام الأقوى له على الأرجح. تجمع الذاكرة الضخم يسمح لك باستضافة نماذج مفتوحة الوزن كبيرة جدًا مع عدد أقل من وحدات GPU وخدمتها بمعدل دفعات مرتفع، وهو أمر جذاب من ناحية اقتصاديات التكلفة لكل رمز.
• التخصيص الدقيق والتدريب الكامل. البطاقة تتعامل مع التخصيص الدقيق للنماذج الكبيرة بسهولة وتشارك في عمليات التدريب المسبق الكامل عند تجميعها في عناقيد متعددة العقد، مع استخدام BF16/FP8 للحفاظ على كفاءة الذاكرة والحساب.
• أعمال الحوسبة العلمية وHPC المحدودة بالذاكرة. يمكن أن تستفيد أعباء العمل التي تحدها السعة أو عرض النطاق الترددي بدلاً من ذروة FLOPS، حيث أن CDNA 3 يدعم بشكل قوي الحوسبة ذات الدقة الأعلى أيضًا.

إنه مبالغ فيه، وقيمة ضعيفة، للتجارب على النماذج الصغيرة، أو التصيير الكلاسيكي بوحدة GPU واحدة، أو الاستدلال الخفيف للنماذج الصغيرة، أو أي شيء يتناسب بسهولة مع ذاكرة فيديو من فئة المستهلكين. لتلك الحالات، بطاقة أرخص بكثير من السوق الأوسع ستبقي المسرع مشغولًا دون دفع مقابل ذاكرة لا تستخدمها أبدًا. يكسب MI300X علاوته عند الاستئجار فقط عندما تكون السعة أو عرض النطاق الترددي أو معدل الدفعات الكبير هي عنق الزجاجة.

ملاحظة عملية عن البرمجيات

يعمل MI300X على حزمة البرمجيات ROCm من AMD بدلاً من CUDA. تدعم الأُطُر الرئيسية مثل PyTorch وخوادم الاستدلال الكبرى هذه الحزمة، وتزداد مكتبات الخدمة شعبيةً بإرسال نوى محسنة، ولكن إذا كان خط أنابيبك يعتمد على مكتبة CUDA فقط، يجب عليك التأكد من قابلية النقل قبل الالتزام باستئجار طويل الأمد. هذه هي النقطة الوحيدة التي يختلف فيها مسار AMD بشكل كبير عن الافتراضي لـ NVIDIA، ومن المفيد إجراء فحص سريع للتوافق في البداية.

سياق تكلفة الإيجار والتوفر

يقع MI300X في الطرف الأعلى من طيف تكلفة GPU السحابي، إلى جانب قطع مراكز البيانات الرائدة من NVIDIA، لأنه شريحة حديثة وعالية الطاقة وغنية بالذاكرة. الأسعار الدقيقة تتغير باستمرار وتختلف بين المزودين، لذا استخدم المقارنة أعلاه للأرقام الحية بدلاً من أي رقم مذكور في النص.

هناك بعض العوامل التي تشكل ما ستدفعه فعليًا وما ستجده:

• حسب الطلب مقابل القابلية للمقاطعة. بعض المزودين يقدمون سعة MI300X بنظام النقاط أو القابل للإيقاف مؤقتًا بخصم؛ هذا ممتاز للاستدلال المتحمل للأخطاء والتدريب المحفوظ، لكنه محفوف بالمخاطر للعمليات الطويلة غير المنقطعة.
• حجم العقدة. لأنه يُشحن في عقد ثمانية وحدات GPU، بعض المزودين يؤجرون العقد الكاملة بدلاً من البطاقات المفردة. تحقق مما إذا كان بإمكانك استئجار وحدة GPU واحدة أو يجب الالتزام بالخادم الكامل.
• الندرة. كمسرع ذكاء اصطناعي مطلوب، قد يكون التوفر أكثر ضيقًا من الأجيال الأقدم، وغالبًا ما تأتي أقل الأسعار مع شروط التزام أو مناطق محددة.

عند قراءة القائمة أعلاه، قارن سعر الوحدة لكل GPU مع ميزة الذاكرة لكل GPU: قد يكون السعر الأعلى لكل ساعة أرخص إجمالًا إذا سمحت 192 جيجابايت بأداء نفس المهمة على عدد أقل من المسرعات.

الأسئلة المتكررة

كم تبلغ ذاكرة AMD MI300X؟

كل MI300X يحتوي على 192 جيجابايت من ذاكرة HBM3 على الرقاقة مع عرض نطاق ترددي في نطاق عدة تيرابايت في الثانية. هذه السعة هي الميزة الرئيسية عند الاستئجار، لأنها تتيح للنماذج الكبيرة أن تتناسب على عدد أقل من وحدات GPU مقارنة بمسرعات فئة 80 جيجابايت.

هل يستخدم MI300X CUDA؟

لا. إنه مسرع من AMD ويستخدم حزمة البرمجيات ROCm بدلاً من CUDA. تدعم الأُطُر الرئيسية وخوادم الاستدلال ROCm، ولكن إذا كان كودك يعتمد على مكتبات CUDA فقط، تحقق من قابلية النقل قبل حجز إيجار طويل الأمد.

هل MI300X أفضل للتدريب أم للاستدلال؟

هو قوي في كلا الحالتين، لكن ذاكرته الكبيرة تجعله جذابًا بشكل خاص للاستدلال والخدمة للنماذج الكبيرة، حيث يمكنك استضافة نماذج أكبر وتشغيل دفعات أكبر على عدد أقل من البطاقات. بالنسبة للتدريب، يتوسع عبر عقد ثمانية وحدات GPU مرتبطة بـ Infinity Fabric وعناقيد متعددة العقد.

هل يجب أن أستأجر MI300X واحدًا أم عقدة كاملة؟

ذلك يعتمد على المزود وحجم عملك. تناسب إيجارات البطاقة المفردة الاستدلال والتخصيص الدقيق الذي يتناسب مع ذاكرة GPU واحدة، بينما يستفيد التدريب الموزع من عقدة كاملة مكونة من ثمانية وحدات GPU مع وصلة عالية النطاق الترددي. تحقق من المقارنة أعلاه لمعرفة أي مستوى من التفاصيل يقدم كل خيار.