Thuê NVIDIA B200 trên Đám mây

Giá thuê NVIDIA B200 đám mây theo yêu cầu bắt đầu từ $1.99 mỗi giờ (Vultr), với 2 nhà cung cấp cạnh tranh về giá, vùng và chất lượng hỗ trợ. Phiên bản spot trên RunPod giảm giá xuống $5.98 mỗi giờ — thấp hơn khoảng up to 60% so với theo yêu cầu — và dung lượng dự trữ có thể giảm thêm up to 40%.

Thay vì chỉ tối ưu giá mỗi giờ, hãy cân nhắc tỷ lệ gián đoạn spot, phí truyền dữ liệu ra ngoài và thanh toán theo giây, những yếu tố này thường quan trọng hơn đối với hóa đơn thực tế NVIDIA B200.

Deploy NVIDIA B200 on Vultr (from $1.99/hr) or RunPod — check live availability and spin up in minutes.

Thông số kỹ thuật NVIDIA B200: 192 GB bộ nhớ HBM3e, băng thông 8,000 GB/s, 2,250 TFLOPS FP16, 75 TFLOPS FP32, TDP 1,000W, xây dựng trên Blackwell (phát hành 2024).

Đối với các kỹ sư đánh giá card: dung lượng VRAM và băng thông thường là hai con số quyết định tính khả thi, trong khi TFLOPS quyết định thời gian ra kết quả. Thông lượng đào tạo FP16 dày đặc tăng gần tuyến tính với TFLOPS trên các kernel được tối ưu tốt, và tiền đào tạo độ chính xác hỗn hợp có thể hiệu quả tăng gấp đôi tính toán khi sử dụng tensor cores.

Two tracked cloud providers currently offer NVIDIA B200: Vultr and RunPod. Vultr has the cheaper rate at $1.99/hr.

NVIDIA B200 cung cấp 2,250 TFLOPS FP16 và 75 TFLOPS FP32, được hỗ trợ bởi 8,000 GB/s băng thông bộ nhớ và 192 GB VRAM. Trong tinh chỉnh độ chính xác hỗn hợp, những con số đó thường chuyển thành thông lượng vững chắc trên các mô hình dày đặc lên đến vài chục tỷ tham số.

Đối với suy luận độ trễ thấp, số token trên giây thực tế trên các mô hình ngôn ngữ lớn phổ biến phụ thuộc nhiều hơn vào băng thông bộ nhớ so với FLOPS đỉnh — con số 8,000 GB/s là giới hạn liên quan cho giải mã tự hồi quy. Trên các khối lượng công việc theo lô như tạo ảnh khuếch tán, tính toán lại trở thành yếu tố chi phối.

Ở mức $1.99 mỗi giờ trên nhà cung cấp đám mây tiết kiệm, hiệu năng trên đồng tiền cạnh tranh cho các khối lượng công việc nặng về AI.

Two tracked cloud providers currently offer NVIDIA B200: Vultr and RunPod. Vultr has the cheaper rate at $1.99/hr.

Để chạy NVIDIA B200, bạn có 2 nhà cung cấp đám mây để lựa chọn: RunPod, Vultr. Hiện tại chi phí thấp nhất là Vultr với giá $1.99 mỗi giờ on-demand, với RunPod dẫn đầu về spot với giá $5.98 mỗi giờ.

Quy trình đề xuất của chúng tôi: 1) loại bỏ các nhà cung cấp không có khu vực, tuân thủ hoặc kết nối bạn yêu cầu; 2) so sánh giá on-demand giữa các nhà cung cấp còn lại; 3) thêm các lựa chọn spot/dự trữ cho các khối lượng công việc phù hợp; 4) kiểm tra chính sách phí xuất dữ liệu và cam kết tối thiểu trước khi đăng ký.

Launch a NVIDIA B200 instance on Vultr at $1.99/hr, or try RunPod for alternative regions and availability.

NVIDIA B200 là lựa chọn phổ biến cho Next-gen AI training, large model inference, HPC. Với 192 GB bộ nhớ và hiệu suất của thế hệ Blackwell, nó cung cấp một dải khả năng bao phủ hầu hết công việc nghiên cứu và sản xuất AI ngoài các mô hình tiên tiến lớn nhất.

Các lựa chọn thay thế để cân nhắc: các card rẻ hơn cho khối lượng công việc nhỏ (L4, T4, RTX 4090), các card lớn hơn cho huấn luyện tiền đề quy mô tiên tiến (H100, H200, B200), và các card chuyên dụng cho nhu cầu bộ nhớ cực lớn (lớp MI300X). Cung cấp đám mây từ $1.99 mỗi giờ trên Vultr.

Vultr offers the cheapest NVIDIA B200 rate at $1.99/hr; RunPod is also available for comparison.