Fornitori di GPU Cloud senza costi di uscita

Cosa significa realmente “zero costi di uscita” quando si noleggiano GPU cloud

Egress è il dato che esce dalla rete di un provider — i byte che scarica dal cloud al suo laptop, a un altro cloud o agli utenti finali. Molte piattaforme infrastrutturali misurano questo traffico e fatturano per gigabyte, mentre addebitano poco o nulla per ingress (dati in entrata). Un host GPU con “zero egress” o “$0 egress” promette che estrarre i dati non costa nulla oltre al calcolo che ha già noleggiato. Su una piattaforma GPU questa è una distinzione significativa, perché i carichi di lavoro di AI e rendering sono particolarmente pesanti in uscita: checkpoint di modelli, pesi esportati, frame renderizzati, risultati di inferenza batch e dataset sintetici devono tutti essere trasferiti da qualche parte una volta che la GPU ha terminato.

Il motivo per cui l’egress è tariffato separatamente è che la larghezza di banda verso Internet pubblico rappresenta un vero costo a monte per i provider. Le piattaforme che pubblicizzano l’assenza di costi di egress stanno o assorbendo quel costo nel prezzo orario della GPU, o operano in una rete dove il transito è economico, oppure limitano il trasferimento gratuito incluso al traffico che rimane all’interno del proprio backbone. Capire quale di queste condizioni si applica a ciascuna voce nella comparazione sopra è tutto il gioco.

Perché l’egress è importante per i veri flussi di lavoro GPU

Il prezzo orario di una GPU è solo una voce della fattura. Per lavori intensivi di dati, il trasferimento può diventare silenziosamente una seconda fattura — e a differenza del calcolo, è difficile da prevedere in anticipo. La tariffazione dell’egress colpisce maggiormente in questi scenari:

• Addestramento che esporta checkpoint di grandi dimensioni — modelli con miliardi di parametri producono checkpoint misurati in decine o centinaia di gigabyte. Se si scattano snapshot frequentemente e si copia ciascuno fuori dalla piattaforma, l’egress misurato può eguagliare la spesa per la GPU.
• Inferenza batch ad alto throughput — generare embedding, didascalie o media trasformati per milioni di elementi significa che il volume in uscita può superare di gran lunga quello in ingresso. Quell’output è egress nel momento in cui lascia il provider.
• Rendering e video — frame finiti e video codificati sono grandi e quasi sempre vengono estratti per lo storage o la distribuzione, rendendo il rendering uno dei carichi di lavoro GPU più sensibili all’egress.
• Pipeline multi-cloud e ibride — spostare un dataset o un modello tra un host GPU e un archivio oggetti separato, un database vettoriale o un livello di servizio attraversa un confine di rete ogni volta, e ogni attraversamento può essere misurato.
• Servire modelli a utenti reali — se la macchina GPU risponde direttamente a richieste API, ogni token di risposta o immagine trasmessa a un client è egress.

Lo zero egress elimina la parte della fattura che scala in base a quanto effettivamente utilizza i risultati del suo calcolo. Per la sperimentazione è quasi irrilevante; per pipeline di produzione che spediscono gigabyte all’ora, può fare la differenza tra due provider con tariffe orarie GPU apparentemente identiche.

Le clausole nascoste dietro il “nessun costo di egress”

Non tutte le affermazioni di “egress gratuito” coprono la stessa cosa, e gli asterischi sono dove gli acquirenti si sorprendono. Quando confronta le voci sopra, verifichi esattamente quale di queste intende un provider:

• Egress pubblico veramente non misurato — qualsiasi download verso Internet aperto è gratuito, senza alcun costo per GB. Questa è la forma più forte e la più utile per il servizio in produzione.
• Solo egress interno gratuito — il trasferimento è gratuito purché rimanga all’interno della regione o del backbone del provider, ma uscire verso Internet pubblico o un altro cloud è ancora fatturato. Utile solo se storage e calcolo risiedono presso lo stesso fornitore.
• Una generosa soglia gratuita, poi misurazione — un numero fisso di gigabyte o terabyte gratuiti al mese, dopo i quali si applicano le tariffe normali di egress. Va bene per lavori piccoli, una trappola per quelli ad alto volume.
• “Gratuito” con limite di banda — nessun costo per GB, ma la velocità di porta è limitata, quindi i trasferimenti grandi sono lenti anziché costosi. Si paga in tempo reale anziché in denaro.
• Egress gratuito ma egress da storage separato — estrarre da uno storage a blocchi allegato può essere gratuito mentre estrarre da un archivio oggetti separato no. Il confine è ciò che viene fatturato.

C’è un vero compromesso da valutare. Un provider che include egress gratuito può avere una tariffa oraria GPU leggermente più alta, perché quel costo di banda deve essere coperto da qualche parte. Per un carico di lavoro con poco egress — lunghe sessioni di addestramento che mantengono i checkpoint in loco, o lavoro interattivo su notebook — pagare una tariffa oraria più bassa con egress misurato che non si attiva mai può essere complessivamente più economico. La scelta giusta dipende interamente dal rapporto output-calcolo.

Cosa verificare prima di impegnarsi

• Se l’egress gratuito si applica al traffico Internet pubblico o solo al trasferimento intra-provider.
• Qualsiasi limite mensile sulla quota gratuita e la tariffa per GB una volta superata.
• Il limite di porta/larghezza di banda, poiché “gratuito ma lento” costa comunque ore GPU mentre i dati si scaricano.
• Se il recupero da storage (letture da archivio oggetti, esportazioni di snapshot) è conteggiato come egress separatamente dall’egress di rete.
• Come la politica interagisce con istanze spot o interrompibili — potrebbe essere necessario evacuare rapidamente i dati quando un nodo viene reclamato, e l’egress misurato con scadenza è doloroso.

Come leggere la comparazione sopra per l’egress

Stimi il suo egress prima di leggere la tabella: approssimativamente quanti gigabyte escono dalla piattaforma per ogni esecuzione, moltiplicato per quante esecuzioni al mese. Abbini questo al prezzo orario GPU mostrato sopra. Un host con zero egress e un prezzo orario marginalmente più alto spesso vince per il servizio in produzione, inferenza batch e rendering, dove il volume di output è alto e prevedibile. Per lavori pesanti di addestramento e con poco output, valuti prima la tariffa oraria più bassa e consideri l’egress come fattore secondario. Poiché sia le politiche di banda che i prezzi cambiano, usi la comparazione live sopra per le tariffe orarie attuali e confermi i termini di egress di ciascun provider rispetto ai punti elencati qui.

Domande frequenti

“Zero egress” significa che tutto il mio trasferimento dati è gratuito?

Non sempre. Significa affidabilmente che il traffico in uscita non comporta costi per gigabyte, ma alcuni provider lo limitano al traffico che rimane nella loro rete o includono solo una quota mensile fissa prima che inizi la misurazione. Il trasferimento in ingresso (ingress) è quasi universalmente gratuito ovunque, quindi la dichiarazione sull’egress è la parte da verificare.

Quanto possono realisticamente aggiungere le tariffe di egress a una fattura GPU?

Dipende interamente dal volume di output. Alcuni notebook sperimentali generano un egress trascurabile, quindi la tariffa è un errore di arrotondamento. Una pipeline di produzione che esporta grandi checkpoint, renderizza video o serve risposte modello agli utenti può muovere terabyte al mese, momento in cui l’egress misurato può diventare una frazione consistente del totale — a volte avvicinandosi al costo del calcolo stesso.

Dovrei sempre scegliere un provider zero-egress?

No. L’egress gratuito a volte comporta una tariffa oraria GPU leggermente più alta. Se il suo carico di lavoro mantiene i dati in loco — lunghe sessioni di addestramento, sviluppo interattivo — potrebbe pagare meno complessivamente con una tariffa oraria più bassa e egress misurato che raramente attiva. Abbini la politica al rapporto output-calcolo invece di considerare lo zero egress automaticamente migliore.

L’egress gratuito è mai limitato?

Sì. Alcuni provider non addebitano per GB ma limitano la velocità di porta, quindi una grande esportazione è lenta anziché costosa. Poiché l’orologio GPU può continuare a girare mentre i dati si scaricano, “gratuito ma lento” ha comunque un costo reale in ore GPU. Verifichi sempre il limite di banda insieme ai prezzi.