เช่า NVIDIA Tesla T4 บนคลาวด์

สามระดับราคากำหนดต้นทุนของคลาวด์ NVIDIA Tesla T4:

- On-demand — เริ่มต้นที่ $0.08 ต่อชั่วโมงที่ Vast.ai ยืดหยุ่น ไม่มีภาระผูกพัน เหมาะสำหรับงานโต้ตอบ
- Spot / preemptible — เริ่มต้นที่ ต่อชั่วโมงที่ (~up to 60% ส่วนลด) อาจถูกขัดจังหวะ เหมาะสำหรับการฝึกอบรมล่วงหน้าที่สามารถ checkpoint ได้
- Reserved — ส่วนลดประมาณ up to 40% สำหรับการผูกมัดหลายเดือน เหมาะสำหรับการให้บริการผลิตภัณฑ์ที่มั่นคง

จากผู้ให้บริการ 1 ที่เราติดตาม อัตรามีการเปลี่ยนแปลงรายสัปดาห์ตามความพร้อมของความจุ ดังนั้นควรตรวจสอบราคาสดก่อนตัดสินใจใช้ระยะยาว

Rent NVIDIA Tesla T4 on Vast.ai from $0.08/hr — check live availability and deploy.

NVIDIA Tesla T4 เป็นการ์ด 2018 รุ่น Turing ที่มีหน่วยความจำ 16 GB ของ GDDR6 และแบนด์วิดธ์ 320 GB/s การคำนวณสูงสุดที่ 65 FP16 TFLOPS และ 8.1 FP32 TFLOPS; TDP อยู่ที่ 70W

การจับคู่ VRAM/แบนด์วิดธ์เป็นคุณสมบัติที่กำหนดสำหรับงานเรียนรู้ของเครื่อง — มันกำหนดขนาดโมเดลที่เข้าถึงได้และความสามารถในการใช้งานการ์ดในระหว่างการทำงานจริง การใช้พลังงานและความต้องการในการระบายความร้อนหมายความว่าการใช้งาน NVIDIA Tesla T4 ส่วนใหญ่จะอยู่ในศูนย์ข้อมูลมากกว่าสถานีงาน ซึ่งเป็นเหตุผลที่การเข้าถึง NVIDIA Tesla T4 ส่วนใหญ่ในทางปฏิบัติมาจากคลาวด์

Rent NVIDIA Tesla T4 on Vast.ai from $0.08/hr — check live availability and deploy.

ประสิทธิภาพที่ทดสอบบน NVIDIA Tesla T4: 65 TFLOPS ใน FP16, 8.1 TFLOPS ใน FP32, แบนด์วิดท์หน่วยความจำ 320 GB/s, VRAM 16 GB

สำหรับงานที่วิศวกรส่วนใหญ่สนใจ — การฝึกสอนโมเดลในตระกูลทรานส์ฟอร์เมอร์, การให้บริการ LLM ที่มีความหน่วงต่ำ, การรัน pipeline diffusion และวิสัยทัศน์ — สเปคเหล่านี้เพียงพอที่จะรองรับขนาดแบตช์ที่ทำให้ tensor cores ทำงานอย่างต่อเนื่อง คาดว่าการเพิ่มขึ้นของเวลาจริงเมื่อเทียบกับการ์ด Turing รุ่นก่อนหน้าจะอยู่ระหว่าง 1.5x ถึง 3x ขึ้นอยู่กับลักษณะงาน

Rent NVIDIA Tesla T4 on Vast.ai from $0.08/hr — check live availability and deploy.

เพื่อรัน NVIDIA Tesla T4 คุณมีผู้ให้บริการคลาวด์ 1 ให้เลือก: Vast.ai. ราคาต่ำสุดในขณะนี้คือ Vast.ai ที่ $0.08 ต่อชั่วโมงแบบ on-demand โดยมี เป็นผู้นำในราคาสปอตที่ ต่อชั่วโมง

ขั้นตอนคำแนะนำของเรา: 1) ตัดผู้ให้บริการที่ไม่มีภูมิภาค, การปฏิบัติตามข้อกำหนด หรือการเชื่อมต่อที่คุณต้องการออก; 2) เปรียบเทียบราคาบน-demand ในกลุ่มที่เหลือ; 3) เพิ่มตัวเลือก spot/จองสำหรับงานที่ตรงกัน; 4) ตรวจสอบนโยบายค่าธรรมเนียมการส่งออกและข้อผูกมัดขั้นต่ำก่อนสมัคร

The cheapest NVIDIA Tesla T4 cloud access right now is on Vast.ai at $0.08/hr.

NVIDIA Tesla T4 ถูกออกแบบมาสำหรับ Budget inference, video transcoding, lightweight ML ในการใช้งานคลาวด์ นั่นหมายถึง: การฝึกโมเดล AI ในระดับวิจัยถึงผลิต, การปรับแต่งทรานส์ฟอร์เมอร์, การรันงานให้บริการแบบแบตช์ และเร่งความเร็วงาน diffusion/vision

มันอยู่ตรงกลางของตลาดตัวเร่ง AI — มีความสามารถมากกว่าการ์ดสำหรับผู้บริโภค, ราคาถูกกว่าตัวเร่งระดับแนวหน้า สำหรับทีมส่วนใหญ่ นั่นคือระดับที่เหมาะสม: ประสิทธิภาพเพียงพอสำหรับงานจริง, ประหยัดพอที่จะรันการทดลองหลายงานพร้อมกันได้ การเข้าถึงคลาวด์เริ่มต้นที่ $0.08 ต่อชั่วโมง ผ่าน Vast.ai

Get NVIDIA Tesla T4 on Vast.ai starting at $0.08/hr — live pricing and fast provisioning.