NVIDIA GeForce RTX 3070 کی FP16 کی چوٹی کی کارکردگی کیا ہے؟

جواب

2020 میں ریلیز ہوا، NVIDIA GeForce RTX 3070 ایک Ampere-کلاس ایکسلریٹر ہے جس میں 8 جی بی GDDR6، 448 جی بی/سیکنڈ میموری بینڈوڈتھ، اور 20.3 FP16 TFLOPS کمپیوٹ ہے۔ FP32 کی چوٹی 10.2 TFLOPS ہے اور کارڈ 220 واٹ تک پاور لیتا ہے۔

عملی اصطلاحات میں: کافی وی آر اے ایم تاکہ ماڈلز کو ~8B-پیرا میٹر رینج میں FP16 میں لوڈ کیا جا سکے (کوانٹائزیشن کے ساتھ بڑا)، اتنی بینڈوڈتھ کہ اٹینشن لیئرز کو میموری کی کمی سے بچایا جا سکے، اور اتنا کمپیوٹ کہ ٹرانسفارمرز کو ایسے بیچ سائزز پر ٹرین کیا جا سکے جو جدید آپٹیمائزرز کو مکمل طور پر استعمال کرتے ہیں۔

See the NVIDIA GeForce RTX 3070 page for the full spec sheet and comparisons to related GPUs.