Nhà cung cấp GPU đám mây không tính phí chuyển dữ liệu ra ngoài

Ý nghĩa thực sự của “phí xuất dữ liệu bằng 0” khi bạn thuê GPU đám mây

Xuất dữ liệu là dữ liệu rời khỏi mạng của nhà cung cấp — các byte bạn tải xuống từ đám mây về laptop, sang đám mây khác hoặc đến người dùng cuối. Nhiều nền tảng hạ tầng đo lưu lượng này và tính phí theo gigabyte, trong khi gần như không tính phí hoặc tính rất ít cho nhập dữ liệu (dữ liệu đi vào). Một máy chủ GPU “xuất dữ liệu bằng 0” hoặc “phí xuất dữ liệu $0” hứa hẹn rằng việc kéo dữ liệu ra không tốn thêm chi phí ngoài chi phí tính toán bạn đã thuê. Trên nền tảng GPU, đây là sự khác biệt quan trọng, vì các công việc AI và render thường có lượng dữ liệu ra rất lớn: các điểm kiểm tra mô hình, trọng số xuất ra, khung hình render, kết quả suy luận theo lô và bộ dữ liệu tổng hợp đều phải được chuyển đi đâu đó sau khi GPU hoàn thành.

Lý do phí xuất dữ liệu được tính riêng là vì băng thông ra internet công cộng là một chi phí thực sự đối với nhà cung cấp. Các nền tảng quảng cáo không tính phí xuất dữ liệu hoặc miễn phí xuất dữ liệu có thể đang hấp thụ chi phí đó vào giá thuê GPU theo giờ, hoạt động trong mạng có chi phí truyền tải thấp, hoặc giới hạn việc chuyển miễn phí chỉ trong phạm vi mạng lưới của họ. Việc đọc xem trường hợp nào áp dụng cho từng mục trong bảng so sánh trên là điều quan trọng nhất.

Tại sao phí xuất dữ liệu lại quan trọng với các quy trình GPU thực tế

Giá thuê GPU theo giờ chỉ là một dòng trên hóa đơn. Đối với các công việc xử lý dữ liệu lớn, chi phí chuyển dữ liệu có thể âm thầm trở thành hóa đơn thứ hai — và khác với tính toán, nó rất khó dự đoán trước. Giá xuất dữ liệu ảnh hưởng mạnh nhất trong các trường hợp sau:

• Huấn luyện xuất ra các điểm kiểm tra lớn — các mô hình hàng tỷ tham số tạo ra các điểm kiểm tra có kích thước hàng chục hoặc hàng trăm gigabyte. Nếu bạn chụp nhanh thường xuyên và sao chép từng điểm ra ngoài nền tảng, phí xuất dữ liệu có thể bằng hoặc vượt chi phí GPU.
• Suy luận theo lô với lưu lượng lớn — tạo embeddings, chú thích hoặc media biến đổi cho hàng triệu mục có thể khiến dữ liệu đầu ra lớn hơn nhiều so với đầu vào. Dữ liệu đầu ra này được tính là xuất dữ liệu ngay khi rời khỏi nhà cung cấp.
• Render và video — các khung hình hoàn chỉnh và video mã hóa thường rất lớn và gần như luôn được kéo ra để lưu trữ hoặc phân phối, làm cho render trở thành một trong những công việc GPU nhạy cảm nhất với phí xuất dữ liệu.
• Các quy trình đa đám mây và lai — di chuyển bộ dữ liệu hoặc mô hình giữa máy chủ GPU và kho đối tượng riêng biệt, cơ sở dữ liệu vector hoặc tầng phục vụ đều vượt qua ranh giới mạng mỗi lần, và mỗi lần vượt ranh giới có thể bị tính phí.
• Phục vụ mô hình cho người dùng thực — nếu máy GPU trực tiếp trả lời các yêu cầu API, mỗi token phản hồi hoặc hình ảnh phát trực tiếp đến khách hàng đều là xuất dữ liệu.

Phí xuất dữ liệu bằng 0 loại bỏ phần hóa đơn tỷ lệ với lượng bạn thực sự sử dụng kết quả tính toán. Với thử nghiệm, điều này gần như không đáng kể; với các quy trình sản xuất chuyển hàng gigabyte mỗi giờ, nó có thể là sự khác biệt giữa hai nhà cung cấp có giá thuê GPU theo giờ gần như giống hệt nhau.

Điều khoản chi tiết đằng sau “không phí xuất dữ liệu”

Không phải mọi tuyên bố “xuất dữ liệu miễn phí” đều bao gồm cùng một phạm vi, và các dấu sao là nơi người mua thường bị bất ngờ. Khi so sánh các mục trên, hãy kiểm tra chính xác nhà cung cấp có ý nghĩa điều nào sau đây:

• Xuất dữ liệu công cộng thực sự không đo lường — bất kỳ tải xuống nào ra internet mở đều miễn phí, không tính phí theo GB. Đây là hình thức mạnh nhất và hữu ích nhất cho phục vụ sản xuất.
• Chỉ miễn phí xuất dữ liệu nội bộ — chuyển dữ liệu miễn phí miễn là nó ở trong vùng hoặc mạng lưới của nhà cung cấp, nhưng ra internet công cộng hoặc đám mây khác vẫn bị tính phí. Chỉ hữu ích nếu lưu trữ và tính toán của bạn cùng nhà cung cấp.
• Miễn phí theo hạn mức cố định, sau đó tính phí — một số gigabyte hoặc terabyte miễn phí cố định mỗi tháng, sau đó áp dụng mức phí xuất dữ liệu bình thường. Phù hợp với công việc nhỏ, là bẫy với công việc có lưu lượng lớn.
• “Miễn phí” giới hạn băng thông — không tính phí theo GB, nhưng tốc độ cổng bị giới hạn, nên chuyển dữ liệu lớn chậm chứ không đắt. Bạn trả giá bằng thời gian thực thi GPU thay vì tiền.
• Miễn phí xuất dữ liệu nhưng riêng phí xuất dữ liệu lưu trữ — kéo dữ liệu từ bộ nhớ khối đính kèm có thể miễn phí trong khi kéo từ kho đối tượng riêng biệt thì không. Ranh giới này là phần bị tính phí.

Có một sự đánh đổi thực sự cần cân nhắc. Nhà cung cấp bao gồm xuất dữ liệu miễn phí có thể có giá thuê GPU theo giờ cao hơn một chút, vì chi phí băng thông phải được gánh ở đâu đó. Với công việc ít xuất dữ liệu — các lần huấn luyện dài giữ điểm kiểm tra tại chỗ, hoặc làm việc tương tác trên notebook — trả giá thuê thấp hơn với xuất dữ liệu đo lường mà bạn hiếm khi dùng có thể rẻ hơn tổng thể. Lựa chọn đúng hoàn toàn phụ thuộc vào tỷ lệ đầu ra trên chi phí tính toán của bạn.

Những điều cần kiểm tra trước khi bạn cam kết

• Xuất dữ liệu miễn phí áp dụng cho lưu lượng internet công cộng hay chỉ chuyển nội bộ nhà cung cấp.
• Bất kỳ giới hạn hàng tháng nào về hạn mức miễn phí và mức phí theo GB khi vượt quá.
• Giới hạn cổng/băng thông, vì “miễn phí nhưng chậm” vẫn tốn giờ GPU khi dữ liệu truyền tải.
• Việc truy xuất lưu trữ (đọc kho đối tượng, xuất snapshot) có được tính là xuất dữ liệu riêng biệt với xuất dữ liệu mạng hay không.
• Chính sách này tương tác thế nào với các phiên bản spot hoặc có thể bị gián đoạn — bạn có thể cần di chuyển dữ liệu nhanh khi một node bị thu hồi, và phí xuất dữ liệu đo lường trong thời hạn gấp rút rất khó chịu.

Đọc bảng so sánh trên về xuất dữ liệu

Ước tính lượng xuất dữ liệu trước khi xem bảng: khoảng bao nhiêu gigabyte rời nền tảng mỗi lần chạy, nhân với số lần chạy mỗi tháng. Kết hợp với giá thuê GPU theo giờ được hiển thị ở trên. Một máy chủ không tính phí xuất dữ liệu với giá thuê theo giờ cao hơn một chút thường thắng trong phục vụ sản xuất, suy luận theo lô và render, nơi lượng đầu ra lớn và có thể dự đoán. Với công việc huấn luyện nhiều nhưng đầu ra ít, hãy cân nhắc giá thuê thấp hơn trước và xem xuất dữ liệu là yếu tố thứ yếu. Vì cả chính sách băng thông và giá cả thay đổi, hãy dùng bảng so sánh trực tiếp trên để xem giá theo giờ hiện tại và xác nhận điều khoản xuất dữ liệu của từng nhà cung cấp theo các điểm đã nêu.

Câu hỏi thường gặp

“Xuất dữ liệu bằng 0” có nghĩa là tất cả chuyển dữ liệu của tôi đều miễn phí không?

Không phải lúc nào cũng vậy. Nó thường có nghĩa là lưu lượng ra không bị tính phí theo gigabyte, nhưng một số nhà cung cấp giới hạn điều này chỉ với lưu lượng trong mạng của họ hoặc chỉ bao gồm một hạn mức miễn phí cố định hàng tháng trước khi bắt đầu tính phí. Chuyển dữ liệu vào (nhập dữ liệu) gần như luôn miễn phí ở mọi nơi, nên tuyên bố không phí xuất dữ liệu là phần cần xác minh.

Phí xuất dữ liệu có thể thực sự làm tăng hóa đơn GPU bao nhiêu?

Hoàn toàn phụ thuộc vào lượng đầu ra. Một vài notebook thử nghiệm tạo ra lượng xuất dữ liệu rất nhỏ, nên phí là không đáng kể. Một quy trình sản xuất xuất ra các điểm kiểm tra lớn, render video hoặc phục vụ phản hồi mô hình cho người dùng có thể di chuyển terabyte mỗi tháng, khi đó phí xuất dữ liệu đo lường có thể chiếm phần lớn tổng chi phí — đôi khi gần bằng chi phí tính toán.

Tôi có nên luôn chọn nhà cung cấp không tính phí xuất dữ liệu không?

Không. Xuất dữ liệu miễn phí đôi khi đi kèm với giá thuê GPU theo giờ cao hơn một chút. Nếu công việc của bạn giữ dữ liệu tại chỗ — các lần huấn luyện dài, phát triển tương tác — bạn có thể trả ít hơn tổng thể với giá thuê thấp hơn và phí xuất dữ liệu đo lường mà bạn hiếm khi dùng. Hãy chọn chính sách phù hợp với tỷ lệ đầu ra trên chi phí tính toán thay vì coi xuất dữ liệu bằng 0 là luôn tốt hơn.

Xuất dữ liệu miễn phí có bao giờ bị giới hạn tốc độ không?

Có. Một số nhà cung cấp không tính phí theo gigabyte nhưng giới hạn tốc độ cổng, nên xuất dữ liệu lớn chậm chứ không đắt. Vì đồng hồ GPU có thể vẫn chạy trong khi dữ liệu truyền tải, “miễn phí nhưng chậm” vẫn có chi phí thực tế về giờ GPU. Luôn kiểm tra giới hạn băng thông cùng với giá cả.