ผู้ให้บริการ GPU บนคลาวด์ที่คิดค่าบริการเป็นวินาที

การคิดค่าบริการแบบวินาทีจริงหมายถึงอะไรสำหรับการเช่า GPU บนคลาวด์

การคิดค่าบริการแบบวินาทีจริงหมายความว่าผู้ให้บริการจะนับเวลาการใช้งานอินสแตนซ์ GPU ของคุณเป็นหน่วยวินาที และคิดค่าบริการเฉพาะวินาทีที่อินสแตนซ์กำลังทำงานเท่านั้น แทนที่จะปัดขึ้นเป็นชั่วโมงเต็มถัดไปหรือคิดค่าบริการเป็นบล็อกชั่วโมงคงที่ เมื่อคุณเปิดใช้งานอินสแตนซ์และปิดใช้งานหลังจาก 23 นาที คุณจะจ่ายเงินสำหรับเวลาประมวลผลประมาณ 1,380 วินาที ไม่ใช่ชั่วโมงเต็ม อัตราที่โฆษณาโดยทั่วไปยังคงแสดงเป็นราคาต่อ GPU-ชั่วโมง แต่การนับเวลาจะละเอียดกว่ามาก ดังนั้นช่องว่างระหว่างการใช้งานจริงกับค่าบริการที่จ่ายจะลดลงจนเกือบเป็นศูนย์

ฟังดูเหมือนเป็นรายละเอียดการบัญชีเล็กน้อย แต่มันเปลี่ยนแปลงเศรษฐศาสตร์ของงานที่เกิดขึ้นแบบกระทันหัน อัตโนมัติ และงานทดลองอย่างมีนัยสำคัญ รายการข้างต้นกรองเฉพาะผู้ให้บริการที่คิดค่าบริการในระดับความละเอียดนี้ ซึ่งเป็นมิติที่แยกแพลตฟอร์มที่สร้างขึ้นสำหรับงานสั้นและบ่อยครั้งออกจากแพลตฟอร์มที่ปรับแต่งสำหรับอินสแตนซ์ที่มีอายุการใช้งานยาวนานและสถานะคงที่

การคิดค่าบริการแบบวินาที เทียบกับแบบชั่วโมงและนาที

ระดับความละเอียดของการคิดค่าบริการอยู่ในสเปกตรัม และความแตกต่างจะทวีคูณเมื่อใช้ในระดับใหญ่:

• แบบชั่วโมง ปัดขึ้น: งานที่ใช้เวลา 90 วินาทีและงานที่ใช้เวลา 59 นาทีทั้งคู่จะถูกคิดค่าบริการเป็นชั่วโมงเต็ม นี่คือกรณีที่แย่ที่สุดสำหรับงานสั้นและลงโทษการเริ่ม/หยุดบ่อยครั้ง
• แบบนาที: ดีกว่า แต่การเรียกใช้งาน inference 5 วินาทีหรือการเริ่มคอนเทนเนอร์ 20 วินาทียังคงถูกปัดขึ้นเป็น 60 วินาที ซึ่งจะสะสมเมื่อมีการเรียกใช้งานหลายพันครั้ง
• แบบวินาที: คุณจ่ายเฉพาะเวลาที่นาฬิกาจริงบันทึกไว้ โดยมักจะมีค่าบริการขั้นต่ำเล็กน้อย (โดยทั่วไปคือ 1 นาทีแรก) เพื่อป้องกันการใช้งานที่เกินควบคุม

สำหรับการรันฝึกอบรมยาวครั้งเดียว ความละเอียดของการคิดค่าบริการแทบไม่มีผล — ความผิดพลาดจากการปัดเวลาของงาน 40 ชั่วโมงถือว่าไม่สำคัญทางสถิติ สำหรับกลุ่ม inference ที่ปรับขนาดอัตโนมัติซึ่งเปิดและปิดอินสแตนซ์หลายร้อยครั้งต่อวัน หรือการค้นหาพารามิเตอร์ที่เปิดและปิดคอนเทนเนอร์อย่างต่อเนื่อง การคิดค่าบริการแบบวินาทีสามารถเป็นตัวแปรที่ทำให้คุณจ่ายเฉพาะเวลาที่ใช้จริงแทนที่จะจ่ายค่าปัดเวลาที่ไม่ได้ใช้งาน

งานประเภทใดได้ประโยชน์มากที่สุด

การคิดค่าบริการแบบวินาทีให้รางวัลกับงานที่เกิดขึ้นแบบกระทันหัน อัตโนมัติ หรือมีอายุสั้น:

• การปรับขนาดแบบ burst inference และ serverless: งานที่ปรับขนาดความจุ GPU ให้สอดคล้องกับปริมาณคำขอและปล่อยคืนภายในไม่กี่นาทีจะประหยัดมากที่สุด เพราะการปัดเวลาที่ไม่ได้ใช้งานจะถูกตัดออกในทุกเหตุการณ์การปรับขนาด
• CI/CD และการทดสอบอัตโนมัติ: ชุดทดสอบที่ใช้ GPU หรืองานตรวจสอบโมเดลที่รันไม่กี่นาทีต่อการคอมมิตหลีกเลี่ยงการจ่ายค่าบล็อกชั่วโมงเต็มในทุกครั้งที่ทริกเกอร์ pipeline
• การค้นหาพารามิเตอร์และการทดลอง: การเปิดใช้งานการทดลองสั้นหลายสิบครั้ง การยกเลิกงานที่ไม่ดีตั้งแต่เนิ่นๆ และเก็บเฉพาะการตั้งค่าที่มีแนวโน้มดี จะประหยัดกว่ามากเมื่อแต่ละการทดลองที่ถูกยกเลิกคิดค่าบริการเฉพาะวินาทีที่ใช้งานจริง
• เซสชันโน้ตบุ๊กแบบโต้ตอบ: นักวิจัยที่เปิดใช้งาน GPU สำหรับเซสชันดีบัก 10 นาทีและปิดใช้งานจะจ่ายเพียง 10 นาที ไม่ใช่ชั่วโมง
• งานแบตช์ที่มีความยาวไม่แน่นอน: การเรนเดอร์เฟรม การรันแบตช์ของ embeddings หรือการแปลงคลิปที่เวลารันแตกต่างกันตั้งแต่ไม่กี่วินาทีถึงนาทีต่อหนึ่งงาน

ในทางกลับกัน หากคุณยึด GPU ไว้สำหรับการฝึกอบรมต่อเนื่องหลายวัน ความละเอียดของการคิดค่าบริการแทบไม่มีความสำคัญ และควรพิจารณาปัจจัยอื่นๆ เช่น การเชื่อมต่อ VRAM ส่วนลด spot และการจัดเก็บข้อมูลเป็นหลักมากกว่า

ข้อแลกเปลี่ยนและรายละเอียดเล็กน้อย

การคิดค่าบริการแบบวินาทีแทบจะเป็นสิ่งที่ดีเสมอ แต่ไม่ได้อยู่โดดๆ และมีรายละเอียดบางอย่างที่กำหนดว่าข้อได้เปรียบหลักนั้นเป็นจริงหรือไม่:

• ค่าบริการขั้นต่ำ: ผู้ให้บริการหลายรายกำหนดช่วงเวลาคิดค่าบริการขั้นต่ำ โดยบ่อยครั้งคือ 60 วินาทีแรก หากงานของคุณสั้นกว่านาที ช่วงเวลานี้มีความสำคัญ ดังนั้นควรตรวจสอบว่ามีขั้นต่ำหรือไม่และนานเท่าไร
• เวลาที่เริ่มคิดค่าบริการ: ยืนยันว่าการคิดค่าบริการเริ่มตั้งแต่ provisioning, การบูต หรือเมื่อ GPU พร้อมใช้งาน การเริ่มต้นช้า การดึงอิมเมจ และการตั้งค่าไดรเวอร์อาจอยู่ในช่วงเวลาที่คิดค่าบริการ ดังนั้นอัตราคิดค่าบริการที่เร็วแต่บูตช้าอาจลบล้างการประหยัด
• ค่าจัดเก็บและค่าที่อยู่ IP: การประมวลผล GPU อาจหยุดคิดค่าบริการทันทีที่คุณยกเลิกใช้งาน แต่โวลุ่มถาวรที่แนบมา สแนปช็อต และ IP ที่จองไว้มักจะยังคงคิดค่าบริการต่อไป การคิดค่าบริการแบบวินาทีสำหรับ GPU ไม่ได้ทำให้การจัดเก็บข้อมูลฟรี
• ค่าขาออกและการโอนข้อมูล: โดยปกติจะคิดค่าบริการตามปริมาณข้อมูล ไม่ใช่เวลา และไม่ได้รับผลกระทบจากระดับความละเอียด — เป็นรายการแยกต่างหากที่ต้องเปรียบเทียบ
• ราคาสำหรับ spot และ interruptible: การคิดค่าบริการแบบวินาทีเหมาะสมกับอินสแตนซ์ที่ถูกขัดจังหวะ เพราะคุณจะไม่ถูกลงโทษสำหรับโหนดที่มีอายุเพียงไม่กี่นาทีก่อนถูกยึดคืน ทั้งสองอย่างเหมาะสำหรับงานที่ทนต่อความผิดพลาดและมีการบันทึกจุดตรวจสอบ

สิ่งที่ควรตรวจสอบในการเปรียบเทียบข้างต้น

เมื่ออ่านรายการ ให้ถือว่าการคิดค่าบริการแบบวินาทีเป็นแกนหนึ่งในหลายแกน ไม่ใช่ปัจจัยตัดสินเพียงอย่างเดียว:

1. ยืนยันว่าระดับความละเอียดเป็นวินาทีจริง ไม่ใช่นาทีที่โฆษณาอย่างหลวมๆ ว่า “คิดเป็นวินาที”
2. ค้นหาช่วงเวลาคิดค่าบริการขั้นต่ำและจุดเริ่มต้นของการนับเวลา
3. ประมาณเวลางานทั่วไปและความถี่การเริ่ม/หยุด — ความละเอียดที่ละเอียดกว่าจะคุ้มค่าตามความสั้นและความถี่ของงาน
4. แยกการคิดค่าบริการการประมวลผลออกจากการจัดเก็บข้อมูล เครือข่าย และค่าทรัพยากรว่าง ซึ่งความละเอียดไม่ได้แก้ไข
5. ตรวจสอบข้ามกับรุ่น GPU และการมีให้บริการแบบ on-demand เทียบกับ spot เพื่อไม่ให้คุณปรับแต่งวินาทีบนฮาร์ดแวร์ที่ไม่เหมาะกับงาน

อัตราคิดค่าบริการสดเปลี่ยนแปลงตลอดเวลาและแตกต่างกันตามภูมิภาคและประเภทอินสแตนซ์ ดังนั้นใช้การเปรียบเทียบข้างต้นสำหรับราคาต่อวินาทีปัจจุบันแทนตัวเลขคงที่ใดๆ

คำถามที่พบบ่อย

การคิดค่าบริการแบบวินาทีทำให้ GPU ถูกลงอย่างมีนัยสำคัญหรือไม่?

มันลดต้นทุนที่แท้จริงของคุณเฉพาะในกรณีที่งานของคุณสั้นหรือมีการสลับใช้งานบ่อย สำหรับการรันต่อเนื่องยาวนาน การประหยัดเมื่อเทียบกับการคิดค่าบริการแบบชั่วโมงแทบไม่มีนัยสำคัญ สำหรับงานที่เกิดขึ้นแบบกระทันหัน ปรับขนาดอัตโนมัติ หรือทดลองที่มีอินสแตนซ์สั้นหลายครั้ง การตัดการปัดเวลาสามารถลดบิลของคุณได้จริง

โดยทั่วไปมีค่าบริการขั้นต่ำกับการคิดค่าบริการแบบวินาทีหรือไม่?

มักจะมี ผู้ให้บริการหลายรายคิดค่าบริการขั้นต่ำ — โดยทั่วไปคือ 1 นาทีแรก — แม้ว่าจะใช้งานอินสแตนซ์เพียงไม่กี่วินาที นี่มีไว้เพื่อป้องกันการใช้งานที่เปลี่ยนแปลงรวดเร็วเกินไป หากงานของคุณสั้นกว่านาที ให้ยืนยันค่าบริการขั้นต่ำก่อนสมมติว่าคุณจ่ายเฉพาะวินาทีจริง

การนับเวลาคิดค่าบริการแบบวินาทีเริ่มและหยุดเมื่อใด?

แตกต่างกันไป ผู้ให้บริการบางรายเริ่มนับเวลาตั้งแต่ provisioning บางรายเริ่มที่บูตหรือเมื่อ GPU พร้อมใช้งาน เวลาการเริ่มต้นช้า การดึงอิมเมจ และการตั้งค่าไดรเวอร์อาจรวมอยู่ในช่วงเวลาที่คิดค่าบริการ ดังนั้นอัตราที่เร็วแต่บูตช้าอาจแย่กว่าราคาที่สูงขึ้นเล็กน้อยแต่บูตเร็ว

การคิดค่าบริการแบบวินาทีครอบคลุมการจัดเก็บข้อมูลและการโอนข้อมูลด้วยหรือไม่?

ไม่ ความละเอียดแบบวินาทีโดยทั่วไปครอบคลุมเฉพาะการประมวลผล GPU เท่านั้น โวลุ่มถาวร สแนปช็อต IP ที่จองไว้ และค่าขาออกมักคิดค่าบริการแยกต่างหาก — ตามความจุหรือปริมาณข้อมูล — และยังคงคิดค่าบริการต่อไปแม้หลังจากอินสแตนซ์ GPU ถูกยกเลิก