Nhà cung cấp GPU đám mây không phí chuyển dữ liệu ra ngoài

Ý nghĩa thực sự của “phí xuất dữ liệu bằng 0” khi bạn thuê GPU đám mây

Xuất dữ liệu là dữ liệu rời khỏi mạng của nhà cung cấp — các byte bạn tải xuống từ đám mây về laptop, sang đám mây khác hoặc đến người dùng cuối. Nhiều nền tảng hạ tầng đo lường lưu lượng này và tính phí theo gigabyte, trong khi gần như không tính phí hoặc tính rất ít cho nhập dữ liệu (dữ liệu đi vào). Một máy chủ GPU “xuất dữ liệu bằng 0” hoặc “$0 phí xuất dữ liệu” hứa hẹn rằng việc lấy dữ liệu ra không tốn thêm chi phí nào ngoài chi phí tính toán bạn đã thuê. Trên nền tảng GPU, đây là sự khác biệt quan trọng, bởi vì các công việc AI và render thường có lượng dữ liệu lớn khi xuất ra: các điểm kiểm tra mô hình, trọng số xuất ra, khung hình render, kết quả suy luận theo lô và bộ dữ liệu tổng hợp đều phải được chuyển đi đâu đó khi GPU hoàn thành.

Lý do phí xuất dữ liệu được tính riêng là vì băng thông ra internet công cộng là một chi phí thực sự cho nhà cung cấp. Các nền tảng quảng cáo không tính phí xuất dữ liệu hoặc miễn phí xuất dữ liệu thường là họ đã gộp chi phí đó vào giá thuê GPU theo giờ, hoạt động trong mạng có chi phí truyền tải thấp hoặc giới hạn chuyển miễn phí chỉ cho lưu lượng đi trong mạng lưới riêng của họ. Việc đọc kỹ điều nào áp dụng cho từng mục trong bảng so sánh trên là điều quan trọng.

Tại sao phí xuất dữ liệu quan trọng với các quy trình GPU thực tế

Giá thuê GPU theo giờ chỉ là một phần trên hóa đơn. Với các công việc cần nhiều dữ liệu, phí chuyển dữ liệu có thể âm thầm trở thành hóa đơn thứ hai — và khác với tính toán, nó khó dự đoán trước. Giá xuất dữ liệu ảnh hưởng mạnh nhất trong các trường hợp sau:

• Huấn luyện xuất các điểm kiểm tra lớn — các mô hình có hàng tỷ tham số tạo ra các điểm kiểm tra có kích thước hàng chục hoặc hàng trăm gigabyte. Nếu bạn chụp nhanh thường xuyên và sao chép mỗi điểm ra ngoài nền tảng, phí xuất dữ liệu có thể tương đương với chi phí GPU.
• Suy luận theo lô với lưu lượng lớn — tạo embeddings, chú thích hoặc media biến đổi cho hàng triệu mục có thể khiến dung lượng đầu ra lớn hơn nhiều so với đầu vào. Dữ liệu đầu ra này là xuất dữ liệu ngay khi rời khỏi nhà cung cấp.
• Render và video — các khung hình hoàn chỉnh và video mã hóa có kích thước lớn và hầu như luôn được tải về lưu trữ hoặc phân phối, làm cho render trở thành một trong những công việc GPU nhạy cảm nhất với phí xuất dữ liệu.
• Các quy trình đa đám mây và lai — di chuyển bộ dữ liệu hoặc mô hình giữa máy chủ GPU và kho đối tượng riêng, cơ sở dữ liệu vector hoặc tầng phục vụ riêng biệt sẽ vượt qua ranh giới mạng mỗi lần, và mỗi lần vượt ranh giới có thể bị tính phí.
• Phục vụ mô hình cho người dùng thực — nếu máy GPU trực tiếp trả lời yêu cầu API, mỗi token phản hồi hoặc hình ảnh truyền đến khách hàng đều là xuất dữ liệu.

Phí xuất dữ liệu bằng 0 loại bỏ phần hóa đơn tăng theo lượng bạn thực sự sử dụng kết quả tính toán. Với thử nghiệm, điều này gần như không đáng kể; với các quy trình sản xuất chuyển hàng gigabyte mỗi giờ, nó có thể là sự khác biệt giữa hai nhà cung cấp có giá thuê GPU theo giờ gần như giống hệt nhau.

Điều khoản chi tiết đằng sau “không tính phí xuất dữ liệu”

Không phải mọi tuyên bố “xuất dữ liệu miễn phí” đều bao gồm cùng một phạm vi, và các dấu sao là nơi người mua thường bị bất ngờ. Khi so sánh các mục trên, hãy kiểm tra chính xác nhà cung cấp có ý nghĩa điều nào sau đây:

• Xuất dữ liệu công cộng thực sự không bị đo lường — bất kỳ tải xuống nào ra internet mở đều miễn phí, không tính phí theo GB. Đây là hình thức mạnh nhất và hữu ích nhất cho phục vụ sản xuất.
• Chỉ miễn phí xuất dữ liệu nội bộ — chuyển dữ liệu miễn phí miễn là nó ở trong vùng hoặc mạng lưới riêng của nhà cung cấp, nhưng ra internet công cộng hoặc đám mây khác vẫn bị tính phí. Chỉ hữu ích nếu lưu trữ và tính toán của bạn nằm cùng nhà cung cấp.
• Miễn phí theo hạn mức cố định, sau đó tính phí — một số gigabyte hoặc terabyte miễn phí cố định mỗi tháng, sau đó áp dụng giá xuất dữ liệu bình thường. Phù hợp cho công việc nhỏ, là bẫy cho công việc có lưu lượng lớn.
• “Miễn phí” giới hạn băng thông — không tính phí theo GB, nhưng tốc độ cổng bị giới hạn, nên chuyển dữ liệu lớn chậm thay vì tốn kém. Bạn trả bằng thời gian thực tế thay vì tiền.
• Miễn phí xuất dữ liệu nhưng xuất dữ liệu lưu trữ tính riêng — kéo dữ liệu từ bộ nhớ khối gắn kèm có thể miễn phí trong khi kéo từ kho đối tượng riêng biệt thì không. Ranh giới này là phần bị tính phí.

Có một sự đánh đổi thực sự cần cân nhắc. Nhà cung cấp bao gồm xuất dữ liệu miễn phí có thể có giá thuê GPU theo giờ cao hơn một chút vì chi phí băng thông phải được bù đắp ở đâu đó. Với công việc ít xuất dữ liệu — chạy huấn luyện dài giữ các điểm kiểm tra tại chỗ, hoặc làm việc tương tác trên notebook — trả giá thuê thấp hơn với xuất dữ liệu đo lường mà bạn hiếm khi dùng có thể rẻ hơn tổng thể. Lựa chọn đúng hoàn toàn phụ thuộc vào tỷ lệ đầu ra trên tính toán của bạn.

Những điều cần kiểm tra trước khi bạn cam kết

• Xuất dữ liệu miễn phí có áp dụng cho lưu lượng internet công cộng hay chỉ chuyển nội bộ nhà cung cấp.
• Bất kỳ giới hạn hàng tháng nào trên hạn mức miễn phí và giá theo GB khi vượt quá.
• Giới hạn cổng/băng thông, vì “miễn phí nhưng chậm” vẫn làm bạn mất giờ GPU trong khi dữ liệu được chuyển.
• Việc truy xuất lưu trữ (đọc kho đối tượng, xuất snapshot) có được tính là xuất dữ liệu riêng biệt với xuất dữ liệu mạng hay không.
• Chính sách này tương tác thế nào với các phiên bản spot hoặc có thể bị gián đoạn — bạn có thể cần di chuyển dữ liệu nhanh khi một node bị thu hồi, và xuất dữ liệu đo lường trong thời hạn là điều khó chịu.

Đọc bảng so sánh trên về xuất dữ liệu

Ước tính lượng xuất dữ liệu của bạn trước khi xem bảng: khoảng bao nhiêu gigabyte rời nền tảng mỗi lần chạy, nhân với số lần chạy mỗi tháng. Kết hợp với giá thuê GPU theo giờ được hiển thị ở trên. Một máy chủ không tính phí xuất dữ liệu và có giá thuê theo giờ nhỉnh hơn một chút thường thắng trong phục vụ sản xuất, suy luận theo lô và render, nơi lượng đầu ra lớn và có thể dự đoán. Với công việc nặng huấn luyện, ít đầu ra, hãy cân nhắc giá thuê thấp hơn trước và xem xuất dữ liệu như yếu tố phụ. Vì chính sách băng thông và giá cả thay đổi, hãy dùng bảng so sánh trực tiếp ở trên để xem giá hiện tại theo giờ và xác nhận điều khoản xuất dữ liệu của từng nhà cung cấp theo các điểm liệt kê ở đây.

Các câu hỏi thường gặp

“Xuất dữ liệu bằng 0” có nghĩa là tất cả chuyển dữ liệu của tôi đều miễn phí không?

Không phải lúc nào cũng vậy. Nó thường có nghĩa là lưu lượng ra không bị tính phí theo gigabyte, nhưng một số nhà cung cấp giới hạn điều này chỉ cho lưu lượng trong mạng riêng của họ hoặc chỉ bao gồm một hạn mức miễn phí cố định hàng tháng trước khi bắt đầu tính phí. Chuyển dữ liệu vào (nhập dữ liệu) gần như luôn miễn phí ở mọi nơi, nên tuyên bố về xuất dữ liệu là phần cần xác minh.

Phí xuất dữ liệu có thể tăng hóa đơn GPU bao nhiêu?

Hoàn toàn phụ thuộc vào lượng đầu ra. Một vài notebook thử nghiệm tạo ra rất ít xuất dữ liệu, nên phí là rất nhỏ. Một quy trình sản xuất xuất các điểm kiểm tra lớn, render video hoặc phục vụ phản hồi mô hình cho người dùng có thể di chuyển terabyte mỗi tháng, khi đó phí xuất dữ liệu đo lường có thể chiếm phần đáng kể trong tổng chi phí — đôi khi gần bằng chi phí tính toán.

Tôi có nên luôn chọn nhà cung cấp không tính phí xuất dữ liệu không?

Không. Miễn phí xuất dữ liệu đôi khi đi kèm với giá thuê GPU theo giờ cao hơn một chút. Nếu công việc của bạn giữ dữ liệu tại chỗ — chạy huấn luyện dài, phát triển tương tác — bạn có thể trả ít hơn tổng thể với giá thuê thấp hơn và phí xuất dữ liệu đo lường mà bạn hiếm khi dùng. Hãy chọn chính sách phù hợp với tỷ lệ đầu ra trên tính toán thay vì xem miễn phí xuất dữ liệu là luôn tốt hơn.

Phí xuất dữ liệu miễn phí có bao giờ bị giới hạn tốc độ không?

Có. Một số nhà cung cấp không tính phí theo gigabyte nhưng giới hạn tốc độ cổng, nên xuất dữ liệu lớn sẽ chậm thay vì tốn kém. Vì đồng hồ GPU có thể vẫn chạy trong khi dữ liệu được chuyển, “miễn phí nhưng chậm” vẫn có chi phí thực tế về giờ GPU. Luôn kiểm tra giới hạn băng thông cùng với giá cả.