Vast.ai

Vast.ai là một thị trường tính toán GPU hai chiều kết nối các nhà phát triển với hơn 1.400 chủ nhà độc lập cung cấp phần cứng GPU chưa được sử dụng hết tại hơn 500 địa điểm trên toàn thế giới. Bằng cách tổng hợp nguồn cung từ các trung tâm dữ liệu độc lập và các nhà cung cấp cá nhân, Vast.ai cung cấp dịch vụ tính toán GPU với giá thấp hơn 40–80% so với các nhà cung cấp dịch vụ đám mây lớn truyền thống như AWS, Azure và GCP.

Nền tảng hỗ trợ ba mô hình triển khai: GPU Cloud (các phiên bản cá nhân), Serverless (các điểm cuối suy luận tự động mở rộng), và Clusters (đào tạo đa nút). Người dùng có thể khởi tạo các phiên bản hiệu suất cao trong vài giây bằng cách sử dụng container Docker, lựa chọn từ hơn 35 loại GPU khác nhau, từ các card RTX tiêu dùng đến các B200 doanh nghiệp. Giá cả được thiết lập động bởi thị trường dựa trên cung và cầu.

Được thành lập vào năm 2018 bởi Jake Cannell, công ty quản lý hơn 20.000 GPU và đạt mức tăng trưởng 310% trong năm 2024. Công ty có chứng nhận SOC 2 Loại 2 và đặc biệt phổ biến trong cộng đồng các nhà nghiên cứu AI, kỹ sư ML và các nhà phát triển độc lập cần tính toán giá cả phải chăng mà không phải cam kết dài hạn.