เช่า NVIDIA B200 บนคลาวด์

อัตราค่าเช่าคลาวด์ NVIDIA B200 แบบ on-demand เริ่มต้นที่ $1.99 ต่อชั่วโมง (Vultr) โดยมีผู้ให้บริการ 2 แข่งขันกันในเรื่องอัตรา ภูมิภาค และคุณภาพการสนับสนุน Spot instances บน RunPod ลดอัตราลงเหลือ $5.98 ต่อชั่วโมง — ต่ำกว่า on-demand ประมาณ up to 60% — และ reserved capacity สามารถลดได้อีก up to 40%

แทนที่จะเน้นแค่ราคาต่อชั่วโมงเท่านั้น ควรพิจารณาอัตราการถูกขัดจังหวะของ spot ค่าธรรมเนียมการส่งข้อมูล และการคิดค่าบริการแบบวินาที ซึ่งมักมีผลมากกว่าสำหรับบิล NVIDIA B200 ในโลกจริง

Deploy NVIDIA B200 on Vultr (from $1.99/hr) or RunPod — check live availability and spin up in minutes.

สเปก NVIDIA B200 : หน่วยความจำ 192 GB HBM3e, แบนด์วิดธ์ 8,000 GB/s, FP16 TFLOPS 2,250, FP32 TFLOPS 75, TDP 1,000W, สร้างบน Blackwell (เปิดตัว 2024)

สำหรับวิศวกรที่ประเมินการ์ด: ความจุ VRAM และแบนด์วิดธ์มักเป็นสองตัวเลขที่กำหนดความเป็นไปได้ ในขณะที่ TFLOPS กำหนดเวลาผลลัพธ์ การฝึกอบรม FP16 ที่หนาแน่นมีอัตราการขยายเกือบเชิงเส้นกับ TFLOPS บนเคอร์เนลที่ปรับแต่งดี และการฝึกอบรมล่วงหน้าความแม่นยำผสมสามารถเพิ่มประสิทธิภาพการคำนวณได้เป็นสองเท่าเมื่อใช้เทนเซอร์คอร์

Two tracked cloud providers currently offer NVIDIA B200: Vultr and RunPod. Vultr has the cheaper rate at $1.99/hr.

NVIDIA B200 ให้กำลัง 2,250 FP16 TFLOPS และ 75 FP32 TFLOPS พร้อมแบนด์วิดท์หน่วยความจำ 8,000 GB/s และ VRAM ขนาด 192 GB ในการปรับแต่งละเอียดแบบผสมความแม่นยำ ตัวเลขเหล่านี้มักแปลงเป็นอัตราการประมวลผลที่มั่นคงบนโมเดลหนาแน่นที่มีพารามิเตอร์หลายสิบพันล้าน

สำหรับการอนุมานที่มีความหน่วงต่ำ โทเค็นต่อวินาทีในโลกจริงบนโมเดลภาษาขนาดใหญ่ทั่วไปขึ้นอยู่กับแบนด์วิดท์หน่วยความจำมากกว่าค่า FLOPS สูงสุด — ตัวเลข 8,000 GB/s เป็นเพดานที่เกี่ยวข้องสำหรับการถอดรหัสแบบ autoregressive ในงานที่มีการประมวลผลแบบแบตช์เช่นการสร้างภาพด้วย diffusion การคำนวณจะกลายเป็นปัจจัยหลักอีกครั้ง

ที่ราคา $1.99 ต่อชั่วโมงบนผู้ให้บริการคลาวด์ราคาประหยัด ประสิทธิภาพต่อราคานั้นแข่งขันได้สำหรับงานที่เน้น AI หนัก

Two tracked cloud providers currently offer NVIDIA B200: Vultr and RunPod. Vultr has the cheaper rate at $1.99/hr.

เพื่อรัน NVIDIA B200 คุณมีผู้ให้บริการคลาวด์ 2 ให้เลือก: RunPod, Vultr. ราคาต่ำสุดในขณะนี้คือ Vultr ที่ $1.99 ต่อชั่วโมงแบบ on-demand โดยมี RunPod เป็นผู้นำในราคาสปอตที่ $5.98 ต่อชั่วโมง

ขั้นตอนคำแนะนำของเรา: 1) ตัดผู้ให้บริการที่ไม่มีภูมิภาค, การปฏิบัติตามข้อกำหนด หรือการเชื่อมต่อที่คุณต้องการออก; 2) เปรียบเทียบราคาบน-demand ในกลุ่มที่เหลือ; 3) เพิ่มตัวเลือก spot/จองสำหรับงานที่ตรงกัน; 4) ตรวจสอบนโยบายค่าธรรมเนียมการส่งออกและข้อผูกมัดขั้นต่ำก่อนสมัคร

Launch a NVIDIA B200 instance on Vultr at $1.99/hr, or try RunPod for alternative regions and availability.

NVIDIA B200 เป็นตัวเลือกยอดนิยมสำหรับ Next-gen AI training, large model inference, HPC ด้วยหน่วยความจำ 192 GB และประสิทธิภาพของรุ่น Blackwell มันมอบความสามารถที่ครอบคลุมงานวิจัยและงานผลิต AI ส่วนใหญ่ที่ไม่ใช่โมเดลระดับแนวหน้าที่ใหญ่ที่สุด

ทางเลือกที่ควรพิจารณา: การ์ดที่ถูกกว่าสำหรับงานขนาดเล็ก (L4, T4, RTX 4090), การ์ดที่ใหญ่กว่าสำหรับการฝึกระดับแนวหน้า (H100, H200, B200) และการ์ดเฉพาะสำหรับความต้องการหน่วยความจำสูงสุด (ระดับ MI300X) ราคาคลาวด์เริ่มต้นที่ $1.99 ต่อชั่วโมง บน Vultr

Vultr offers the cheapest NVIDIA B200 rate at $1.99/hr; RunPod is also available for comparison.