معدل الإنتاجية في التدريب المسبق لـ NVIDIA GeForce RTX 5080 — ماذا يمكن أن أتوقع؟

الإجابة

NVIDIA GeForce RTX 5080 يدفع 56 تيرافلوبس FP16، 28 تيرافلوبس FP32، ويغذيهما من 16 جيجابايت من ذاكرة الفيديو بسرعة 960 جيجابايت/ثانية.

المقاييس: تدريب LLM بدقة مختلطة يشهد استخدامًا قريبًا من ذروة الفلوبس عند أحجام دفعات تناسب ذاكرة الفيديو؛ استدلال LLM عادةً ما يكون ضمن 5-15% من سقف عرض النطاق الترددي النظري على فك التشفير التلقائي التوليدي؛ تظهر نماذج الانتشار أكبر قفزة مقارنة بالمسرعات الأقدم، حيث تتراكم نوى الانتباه الأسرع مع مكاسب الحوسبة الخام.

The NVIDIA GeForce RTX 5080 page has the complete datasheet and side-by-side comparisons.