Furnizori de GPU în cloud fără taxe de ieșire

Ce înseamnă de fapt „taxe zero pentru egress” când închiriezi GPU-uri în cloud

Egress este datele care părăsesc rețeaua unui furnizor — octeții pe care îi descarci din cloud pe laptopul tău, către un alt cloud sau către utilizatorii finali. Multe platforme de infrastructură măsoară acest trafic și facturează pe gigabyte, în timp ce percep puțin sau nimic pentru ingress (datele care intră). Un gazdă GPU cu „egress zero” sau „egress $0” promite că extragerea datelor tale nu costă nimic în plus față de calculul pe care l-ai închiriat deja. Pe o platformă GPU aceasta este o distincție semnificativă, deoarece sarcinile AI și de randare sunt neobișnuit de intensive în date la ieșire: punctele de control ale modelelor, greutățile exportate, cadrele randate, rezultatele inferenței în loturi și seturile de date sintetice trebuie toate să fie transferate undeva după ce GPU-ul termină.

Motivul pentru care egress-ul este tarifat separat este că lățimea de bandă către internetul public reprezintă un cost real upstream pentru furnizori. Platformele care promovează lipsa taxelor pentru egress absorb fie acest cost în tariful orar al GPU-ului, operează într-o rețea unde tranzitul este ieftin sau restricționează transferul gratuit inclus la traficul care rămâne în cadrul propriei rețele de bază. Citirea care dintre aceste situații se aplică fiecărei intrări din comparația de mai sus este esențială.

De ce contează egress-ul pentru fluxurile reale de lucru cu GPU

Prețul orar al unui GPU este doar o linie pe factură. Pentru sarcinile intensive în date, transferul poate deveni discret o a doua factură — și spre deosebire de calcul, este greu de prevăzut dinainte. Tarifarea egress-ului este cea mai dureroasă în următoarele modele:

• Antrenamente care exportă puncte de control mari — modelele cu miliarde de parametri produc puncte de control măsurate în zeci sau sute de gigabytes. Dacă faci snapshot-uri frecvent și copiezi fiecare în afara platformei, egress-ul măsurat poate rivaliza cu costul GPU-ului.
• Inferență în loturi cu debit mare — generarea de embeddings, subtitrări sau media transformată pentru milioane de elemente înseamnă că volumul de ieșire poate depăși cu mult volumul de intrare. Acea ieșire este egress în momentul în care părăsește furnizorul.
• Randare și video — cadrele finalizate și videoclipurile codificate sunt mari și aproape întotdeauna sunt extrase înapoi către stocare sau livrare, făcând din randare una dintre cele mai sensibile sarcini GPU la egress.
• Fluxuri multi-cloud și hibride — mutarea unui set de date sau model între un gazdă GPU și un magazin de obiecte separat, o bază de date vectorială sau un nivel de servire traversează o limită de rețea de fiecare dată, iar fiecare traversare poate fi măsurată.
• Servirea modelelor către utilizatori reali — dacă cutia GPU răspunde direct la cereri API, fiecare token de răspuns sau imagine transmisă către un client este egress.

Egress-ul zero elimină partea facturii care crește proporțional cu cât folosești efectiv rezultatele calculului tău. Pentru experimentare, aproape că nu se simte; pentru fluxurile de producție care trimit gigabytes pe oră, poate face diferența între doi furnizori ale căror tarife orare GPU păreau identice.

Detaliile fine din spatele „fără egress”

Nu toate afirmațiile „egress gratuit” acoperă același lucru, iar asteriscurile sunt locul unde cumpărătorii sunt surprinși. Când compari intrările de mai sus, verifică exact ce înseamnă un furnizor prin:

• Egress public cu adevărat nemăsurat — orice descărcare către internetul deschis este gratuită, fără nicio taxă pe gigabyte. Aceasta este forma cea mai puternică și cea mai utilă pentru servirea în producție.
• Doar egress intern gratuit — transferul este gratuit atât timp cât rămâne în regiunea sau rețeaua de bază a furnizorului, dar ieșirea către internetul public sau alt cloud este încă tarifată. Util doar dacă stocarea și calculul tău sunt la același furnizor.
• Un nivel gratuit generos, apoi tarifare măsurată — un număr fix de gigabytes sau terabytes gratuit pe lună, după care se aplică tarife normale de egress. Bun pentru sarcini mici, capcană pentru cele cu volum mare.
• „Gratuit” cu limită de bandă — fără taxă pe gigabyte, dar viteza portului este limitată, astfel încât transferurile mari sunt lente în loc să fie costisitoare. Plătești în timp de funcționare în loc de bani.
• Egress gratuit, dar egress-ul de stocare separat — extragerea din stocarea bloc atașată poate fi gratuită, în timp ce extragerea dintr-un magazin de obiecte separat nu este. Limita este ceea ce se facturează.

Există un compromis real de cântărit. Un furnizor care include egress gratuit poate avea un tarif orar GPU puțin mai mare, deoarece costul lățimii de bandă trebuie să fie acoperit undeva. Pentru o sarcină cu egress redus — antrenamente lungi care păstrează punctele de control în loc sau lucru interactiv în notebook — plata unui tarif orar mai mic cu egress măsurat pe care nu îl declanșezi niciodată poate fi mai ieftină în ansamblu. Alegerea corectă depinde în totalitate de raportul dintre ieșire și calcul.

Ce să verifici înainte să te angajezi

• Dacă egress-ul gratuit se aplică traficului internetului public sau doar transferului intra-furnizor.
• Orice limită lunară pentru alocația gratuită și tariful pe gigabyte după ce o depășești.
• Limita portului/bandwidth-ului, deoarece „gratuit dar lent” tot te costă ore GPU în timp ce datele se descarcă.
• Dacă recuperarea din stocare (citiri din magazinul de obiecte, exporturi de snapshot) este considerată egress separat de egress-ul de rețea.
• Cum interacționează politica cu instanțele spot sau întreruptibile — poate fi necesar să evacuezi datele rapid când un nod este revendicat, iar egress-ul măsurat pe termen scurt este dureros.

Citirea comparației de mai sus pentru egress

Estimă-ți egress-ul înainte să citești tabelul: aproximativ câți gigabytes părăsesc platforma per rulare, înmulțit cu numărul de rulări pe lună. Combină asta cu tariful orar GPU afișat mai sus. Un gazdă cu egress zero și un preț orar marginal mai mare câștigă adesea pentru servirea în producție, inferență în loturi și randare, unde volumul de ieșire este mare și predictibil. Pentru lucrări cu antrenamente intensive și ieșire redusă, cântărește mai întâi tariful orar mai mic și tratează egress-ul ca un factor secundar. Deoarece atât politicile de bandă, cât și prețurile se schimbă, folosește comparația live de mai sus pentru tarifele actuale pe oră și confirmă termenii de egress ai fiecărui furnizor față de punctele listate aici.

Întrebări frecvente

Înseamnă „egress zero” că tot transferul meu de date este gratuit?

Nu întotdeauna. În mod fiabil înseamnă că traficul de ieșire nu are taxă pe gigabyte, dar unii furnizori limitează asta la traficul care rămâne în propria lor rețea sau includ doar o alocație lunară fixă înainte de a începe măsurarea. Transferul de intrare (ingress) este aproape universal gratuit peste tot, deci afirmația despre egress este partea care merită verificată.

Cât pot adăuga realist taxele de egress la o factură GPU?

Depinde în totalitate de volumul de ieșire. Câteva notebook-uri experimentale generează un egress neglijabil, deci taxa este o eroare de rotunjire. Un flux de producție care exportă puncte de control mari, randări video sau servește răspunsuri de model către utilizatori poate muta terabytes pe lună, moment în care egress-ul măsurat poate deveni o fracțiune semnificativă din total — uneori apropiindu-se de costul calculului în sine.

Ar trebui să aleg întotdeauna un furnizor cu egress zero?

Nu. Egress-ul gratuit vine uneori cu un tarif orar GPU puțin mai mare. Dacă sarcina ta păstrează datele în loc — antrenamente lungi, dezvoltare interactivă — poți plăti mai puțin în total cu un tarif orar mai ieftin și egress măsurat pe care îl declanșezi rar. Potrivește politica cu raportul tău ieșire-calcul în loc să consideri automat egress-ul zero ca fiind mai bun.

Egress-ul gratuit este vreodată limitat?

Da. Unii furnizori oferă fără taxă pe gigabyte, dar limitează viteza portului, astfel încât un export mare este lent în loc să fie costisitor. Deoarece ceasul GPU poate continua să funcționeze în timp ce datele se descarcă, „gratuit dar lent” are tot un cost real în ore GPU. Verifică întotdeauna limita de bandă împreună cu prețul.