Furnizori de GPU în cloud fără taxe de ieșire

Ce înseamnă de fapt „taxe zero de egress” când închiriezi GPU-uri în cloud

Egress este datele care părăsesc rețeaua unui furnizor — octeții pe care îi descarci din cloud pe laptopul tău, către un alt cloud sau către utilizatori finali. Multe platforme de infrastructură măsoară acest trafic și facturează pe gigabyte, în timp ce percep puțin sau nimic pentru ingress (datele care intră). Un gazdă GPU cu „egress zero” sau „egress $0” promite că extragerea datelor tale nu costă nimic în plus față de calculul pe care l-ai închiriat deja. Pe o platformă GPU, aceasta este o distincție semnificativă, deoarece sarcinile AI și de randare sunt neobișnuit de intensive în date la ieșire: punctele de control ale modelelor, greutățile exportate, cadrele randate, rezultatele inferenței batch și seturile de date sintetice trebuie toate să fie transferate undeva după ce GPU-ul termină.

Motivul pentru care egress este tarifat separat este că lățimea de bandă către internetul public reprezintă un cost real upstream pentru furnizori. Platformele care promovează lipsa taxelor de egress fie absorb acest cost în tariful orar al GPU-ului, operează într-o rețea unde tranzitul este ieftin, fie restricționează transferul gratuit inclus la traficul care rămâne în spatele propriei infrastructuri. Citirea care dintre aceste situații se aplică fiecărei intrări din comparația de mai sus este esențială.

De ce contează egress pentru fluxurile reale de lucru cu GPU-uri

Prețul orar al unui GPU este doar o linie pe factură. Pentru sarcini intensive în date, transferul poate deveni discret o a doua factură — și spre deosebire de calcul, este greu de prevăzut în avans. Tarifarea egress afectează cel mai mult următoarele modele:

• Antrenamente care exportă puncte de control mari — modelele cu miliarde de parametri produc puncte de control măsurate în zeci sau sute de gigabytes. Dacă faci snapshot-uri frecvent și copiezi fiecare în afara platformei, egress-ul măsurat poate rivaliza cu cheltuielile pentru GPU.
• Inferență batch cu debit mare — generarea de embeddings, subtitrări sau media transformată pentru milioane de elemente înseamnă că volumul output poate depăși cu mult volumul inputului. Acest output este egress în momentul în care părăsește furnizorul.
• Randare și video — cadrele finalizate și videoclipurile codificate sunt mari și aproape întotdeauna sunt extrase înapoi pentru stocare sau livrare, făcând din randare una dintre cele mai sensibile sarcini GPU la costurile de egress.
• Pipeline-uri multi-cloud și hibride — mutarea unui set de date sau model între un gazdă GPU și un magazin de obiecte separat, o bază de date vectorială sau un nivel de servire traversează o limită de rețea de fiecare dată, iar fiecare traversare poate fi măsurată.
• Servirea modelelor către utilizatori reali — dacă mașina GPU răspunde direct la cereri API, fiecare token de răspuns sau imagine transmisă către un client este egress.

Egress zero elimină partea facturii care crește proporțional cu cât folosești efectiv rezultatele calculului tău. Pentru experimentare, impactul este aproape inexistent; pentru pipeline-urile de producție care trimit gigabytes pe oră, poate face diferența între doi furnizori ale căror tarife orare pentru GPU păreau identice.

Detaliile ascunse din spatele „fără taxe de egress”

Nu toate afirmațiile de „egress gratuit” acoperă același lucru, iar asteriscurile sunt locul unde cumpărătorii sunt surprinși. Când compari intrările de mai sus, verifică exact ce înseamnă fiecare furnizor:

• Egress public cu adevărat nemăsurat — orice descărcare către internetul deschis este gratuită, fără nicio taxă per GB. Aceasta este forma cea mai puternică și cea mai utilă pentru servirea în producție.
• Doar egress intern gratuit — transferul este gratuit atât timp cât rămâne în regiunea sau infrastructura proprie a furnizorului, dar ieșirea către internetul public sau alt cloud este încă taxată. Util doar dacă stocarea și calculul sunt la același furnizor.
• Un nivel gratuit generos, apoi tarifare — un număr fix de gigabytes sau terabytes gratuit pe lună, după care se aplică tarife normale de egress. Bun pentru sarcini mici, capcană pentru cele cu volum mare.
• „Gratuit” cu limită de bandă — fără taxă per GB, dar viteza portului este limitată, astfel încât transferurile mari sunt lente, nu costisitoare. Plătești în timp de așteptare, nu în bani.
• Egress gratuit, dar egress-ul de stocare separat — extragerea din stocarea bloc atașată poate fi gratuită, în timp ce extragerea dintr-un magazin de obiecte separat nu este. Limita este ceea ce se facturează.

Există un compromis real de evaluat. Un furnizor care include egress gratuit poate avea un tarif orar al GPU-ului puțin mai mare, deoarece costul lățimii de bandă trebuie să fie acoperit undeva. Pentru o sarcină cu puțin egress — rulări lungi de antrenament care păstrează punctele de control în loc, sau lucru interactiv în notebook — plata unui tarif orar mai mic cu egress măsurat pe care nu îl declanșezi niciodată poate fi mai ieftină în ansamblu. Alegerea corectă depinde în totalitate de raportul tău output-la-calcul.

Ce să verifici înainte să te angajezi

• Dacă egress-ul gratuit se aplică traficului internetului public sau doar transferului intra-furnizor.
• Orice limită lunară pentru alocația gratuită și tariful per GB după depășirea acesteia.
• Limita portului/lățimii de bandă, deoarece „gratuit dar lent” tot te costă ore de GPU în timp ce datele se descarcă.
• Dacă recuperarea din stocare (citiri din magazin de obiecte, exporturi de snapshot) este considerată egress separat de egress-ul de rețea.
• Cum interacționează politica cu instanțele spot sau întreruptibile — poate fi necesar să evacuezi datele rapid când un nod este revendicat, iar egress-ul măsurat pe termen scurt este dificil.

Cum să citești comparația de mai sus pentru egress

Estimează-ți egress-ul înainte să citești tabelul: aproximativ câți gigabytes părăsesc platforma per rulare, înmulțit cu numărul de rulări pe lună. Combină asta cu tariful orar al GPU-ului afișat mai sus. Un gazdă cu egress zero și un preț orar marginal mai mare câștigă adesea pentru servirea în producție, inferența batch și randare, unde volumul output-ului este mare și predictibil. Pentru muncă intensă în antrenament și cu output redus, ia în considerare mai întâi tariful orar mai mic și tratează egress-ul ca un factor secundar. Deoarece atât politicile de bandă, cât și prețurile se schimbă, folosește comparația live de mai sus pentru tarifele actuale pe oră și confirmă termenii de egress ai fiecărui furnizor în raport cu punctele enumerate aici.

Întrebări frecvente

Înseamnă „egress zero” că tot transferul meu de date este gratuit?

Nu întotdeauna. În mod sigur înseamnă că traficul outbound nu are taxă per gigabyte, dar unii furnizori limitează asta la traficul care rămâne în propria rețea sau includ doar o alocație lunară fixă înainte de a începe măsurarea. Transferul inbound (ingress) este aproape universal gratuit peste tot, deci afirmația despre egress este partea care merită verificată.

Cât pot adăuga realist taxele de egress la o factură GPU?

Depinde în totalitate de volumul output-ului. Câteva notebook-uri experimentale generează un egress neglijabil, deci taxa este o eroare de rotunjire. Un pipeline de producție care exportă puncte de control mari, randări video sau servește răspunsuri de model utilizatorilor poate muta terabytes pe lună, moment în care egress-ul măsurat poate deveni o fracțiune semnificativă din total — uneori apropiindu-se de costul calculului în sine.

Ar trebui să aleg întotdeauna un furnizor cu egress zero?

Nu. Egress-ul gratuit vine uneori cu un tarif orar al GPU-ului puțin mai mare. Dacă sarcina ta păstrează datele în loc — rulări lungi de antrenament, dezvoltare interactivă — poți plăti mai puțin în total cu un tarif orar mai mic și egress măsurat pe care îl declanșezi rar. Potrivește politica cu raportul tău output-la-calcul în loc să consideri automat că egress zero este mai bun.

Este vreodată egress-ul gratuit limitat?

Da. Unii furnizori oferă fără taxă per gigabyte, dar limitează viteza portului, astfel încât un export mare este lent, nu costisitor. Deoarece ceasul GPU poate continua să funcționeze în timp ce datele se descarcă, „gratuit dar lent” are tot un cost real în ore GPU. Verifică întotdeauna limita de bandă împreună cu prețurile.