NVIDIA Tesla P4 का टेन्सर कोर प्रदर्शन

उत्तर

संक्षिप्त उत्तर: NVIDIA Tesla P4 FP16 TFLOPS पर चलता है, 192 GB/s मेमोरी बैंडविड्थ के साथ। लंबा उत्तर इस बात पर निर्भर करता है कि आप क्या चलाते हैं।

बड़े बैचों के साथ घने FP16 प्रशिक्षण के लिए, NVIDIA Tesla P4 टेंसर कोर को संतृप्त करता है और पीक FLOPS के करीब थ्रूपुट प्रदान करता है। लंबे संदर्भ फाउंडेशन मॉडलों पर मेमोरी-सीमित सेवा के लिए, बैंडविड्थ प्रमुख होती है — 192 GB/s आंकड़ा शीर्षक TFLOPS से अधिक महत्वपूर्ण है। वैज्ञानिक गणना के लिए, FP32 5.5 TFLOPS पर प्रासंगिक संख्या है और NVIDIA Tesla P4 को उसके Pascal वर्ग की HPC अपेक्षाओं के अनुरूप रखता है।

Get NVIDIA Tesla P4 on Cherry Servers starting at $0.16/hr — live pricing and fast provisioning.