Mga Cloud GPU Provider na May Per-Segundong Billing

Ano ang ibig sabihin ng per-second billing para sa cloud GPU rentals

Ang per-second billing ay nangangahulugang sinusukat ng provider ang iyong GPU instance sa bawat isang segundo at sinisingil ka lamang para sa mga segundong tumatakbo ang instance, sa halip na i-round up sa susunod na buong oras o singilin ng isang fixed na hourly block. Kapag nag-launch ka ng instance at tinanggal ito makalipas ang 23 minuto, magbabayad ka para sa humigit-kumulang 1,380 segundo ng compute, hindi isang buong oras. Ang naka-advertise na rate ay karaniwang ipinapahayag pa rin bilang presyo kada GPU-hour, ngunit mas detalyado ang pagsukat, kaya ang pagitan ng iyong paggamit at bayad ay halos zero na.

Mukhang maliit na detalye sa accounting ito, ngunit malaki ang epekto nito sa ekonomiya ng mga bursty, automated, at experimental na workloads. Ang listahan sa itaas ay nag-filter para sa mga provider na nagbabayad sa ganitong granularity, na siyang nagtatangi sa platform na ginawa para sa maikli at madalas na trabaho mula sa isa na optimized para sa matagal at steady-state na mga instance.

Per-second kumpara sa per-hour at per-minute

Ang granularity ng billing ay nasa spectrum, at ang mga pagkakaiba ay lumalaki kapag malaki ang scale:

• Per-hour, rounded up: ang 90-segundong trabaho at 59-minutong trabaho ay pareho pa ring sinisingil bilang isang buong oras. Ito ang pinakamasamang kaso para sa mga maikling gawain at nagpaparusa sa madalas na start/stop cycles.
• Per-minute: mas maganda, ngunit ang 5-segundong inference call o 20-segundong pagsisimula ng container ay niroround up pa rin sa 60 segundo, na nagdadagdag kapag libu-libo ang mga invocation.
• Per-second: nagbabayad ka para sa aktwal na naitala ng orasan, kadalasan may maliit na minimum charge (karaniwan ang unang minuto) upang pigilan ang abusadong churn.

Para sa isang mahabang training run, halos walang epekto ang granularity — ang rounding error sa 40-oras na trabaho ay statistically irrelevant. Para sa autoscaling inference fleet na paulit-ulit na nag-spin up at down ng mga instance ng daan-daang beses sa isang araw, o hyperparameter sweep na palaging nagla-launch at pumapatay ng mga container, ang per-second metering ang maaaring maging pagkakaiba sa pagitan ng pagbabayad para sa compute na ginamit at pagbabayad para sa idle rounding.

Aling mga workflow ang pinakakinabangan

Pinapaboran ng per-second billing ang anumang spiky, automated, o panandaliang trabaho:

• Burst inference at serverless-style scaling: mga workload na nag-scale ng GPU capacity ayon sa volume ng request at nire-release ito sa loob ng ilang minuto ay nakakakuha ng pinakamaraming tipid, dahil naaalis ang idle rounding sa bawat scale event.
• CI/CD at automated testing: mga GPU-backed test suites o model-validation jobs na tumatakbo ng ilang minuto bawat commit ay nakakaiwas sa pagbabayad ng buong oras sa bawat pipeline trigger.
• Hyperparameter search at experimentation: pag-launch ng dose-dosenang maikling trial, pagpatay ng mga hindi maganda agad, at pagpapanatili lamang ng mga promising na configuration ay mas mura kapag ang bawat pinatay na trial ay sinisingil lamang sa mga segundong tumakbo ito.
• Interactive notebook sessions: isang researcher na nagbukas ng GPU para sa sampung minutong debugging session at isinara ito ay nagbabayad lang para sa sampung minuto, hindi isang oras.
• Batch jobs na hindi tiyak ang haba: pag-render ng mga frame, pagpapatakbo ng batch ng embeddings, o pag-transcode ng mga clip kung saan ang runtime ay nag-iiba mula sa ilang segundo hanggang minuto bawat gawain.

Sa kabilang banda, kung pinananatili mo ang GPU ng ilang araw para sa tuloy-tuloy na training, halos hindi mahalaga ang granularity ng billing at dapat mong bigyang-pansin ang iba pang mga factor — interconnect, VRAM, spot discounts, at storage — nang mas mabigat.

Mga trade-off at mga detalye

Halos palaging positibo ang per-second billing, ngunit hindi ito umiiral nang mag-isa, at ilang detalye ang nagtatakda kung ang pangunahing benepisyo ay totoo:

• Minimum charge: maraming provider ang naglalagay ng minimum billable period, madalas ang unang 60 segundo. Kung ang iyong mga trabaho ay mas mababa sa isang minuto, mahalaga ang floor na ito, kaya suriin kung may minimum na singil at gaano ito katagal.
• Ano ang kasama sa oras: kumpirmahin kung nagsisimula ang billing sa provisioning ng instance, sa boot, o sa sandaling maging handa ang GPU. Ang mabagal na cold start, pag-pull ng image, at pag-initialize ng driver ay maaaring mapasama sa window ng pagsukat, kaya ang mabilis na rate ng billing na may mabagal na boot ay maaaring magtanggal ng mga tipid.
• Storage at IP charges: maaaring tumigil ang singil sa GPU compute kapag tinerminate mo ang instance, ngunit ang mga naka-attach na persistent volumes, snapshots, at reserved IPs ay madalas na patuloy na nag-a-accrue. Hindi ginagawa ng per-second compute na libre ang storage.
• Egress at data transfer: karaniwang sinisingil ito batay sa volume, hindi sa oras, at hindi naaapektuhan ng granularity — isang hiwalay na item na dapat ikumpara.
• Spot at interruptible pricing: ang per-second metering ay natural na bagay sa interruptible instances, dahil hindi ka pinaparusahan para sa node na tumatagal lang ng ilang minuto bago ma-reclaim. Magkasama, ang mga ito ay angkop para sa fault-tolerant, checkpointed na trabaho.

Ano ang dapat suriin sa paghahambing sa itaas

Kapag binabasa ang listahan, ituring ang per-second billing bilang isa sa mga axis sa halip na isang nag-iisang desisyon na factor:

1. Kumpirmahin na ang granularity ay tunay na per-second, hindi per-minute na maluwag na tinatawag na “by the second.”
2. Hanapin ang minimum billable period at kung kailan nagsisimula ang metro.
3. Tantiyahin ang karaniwang tagal ng iyong trabaho at ang dalas ng pagsisimula/pagtigil — mas sulit ang mas detalyadong granularity kung mas maikli at mas madalas ang iyong mga trabaho.
4. Paghiwalayin ang compute billing mula sa storage, networking, at idle-resource charges, na hindi tinutugunan ng granularity.
5. I-cross-reference sa GPU model at on-demand kumpara sa spot availability upang hindi ka mag-optimize ng mga segundo sa hardware na hindi angkop sa workload.

Ang live rates ay palaging nagbabago at nag-iiba-iba ayon sa rehiyon at uri ng instance, kaya gamitin ang paghahambing sa itaas para sa kasalukuyang per-second pricing kaysa sa anumang fixed na halaga.

Mga madalas itanong

Ginagawa bang mas mura ang GPUs sa per-second billing?

Pinabababa nito ang epektibong gastos mo lamang kung ang iyong mga trabaho ay maikli o madalas na nire-recycle. Para sa mahaba at tuloy-tuloy na mga run, halos walang pinagkaiba ang tipid kumpara sa per-hour billing; para sa bursty, autoscaling, o experimental na mga workload na maraming maikling instance, ang pag-aalis ng rounding ay maaaring magdulot ng totoong pagbawas sa iyong bill.

Karaniwan bang may minimum charge sa per-second billing?

Madalas oo. Maraming provider ang naniningil ng minimum period — karaniwan ang unang minuto — kahit na tumakbo lang ang instance ng ilang segundo. Ito ay para maiwasan ang mabilis na abuso sa churn. Kung ang iyong mga trabaho ay mas mababa sa isang minuto, kumpirmahin ang minimum bago isipin na nagbabayad ka lang para sa literal na mga segundo.

Kailan nagsisimula at tumitigil ang per-second meter?

Nag-iiba-iba ito. Ang ilang provider ay nagsisimulang mag-meter sa provisioning, ang iba sa boot o kapag nagamit na ang GPU. Ang cold-start time, pag-pull ng image, at setup ng driver ay maaaring mapasama sa window ng singil, kaya ang mabilis na rate na may mabagal na startup ay maaaring mas masama kaysa sa bahagyang mas mataas na rate na mabilis mag-boot.

Sinasaklaw ba ng per-second billing ang storage at data transfer?

Hindi. Karaniwang saklaw ng per-second granularity ang GPU compute lamang. Ang persistent volumes, snapshots, reserved IPs, at egress ay karaniwang sinisingil nang hiwalay — batay sa kapasidad o volume — at patuloy na nag-a-accrue kahit na na-terminate na ang GPU instance.