Fornitori di GPU Cloud senza costi di uscita

Cosa significa realmente “zero costi di uscita” quando si noleggiano GPU cloud

Egress è il dato che esce dalla rete di un fornitore — i byte che scarica dal cloud al suo laptop, a un altro cloud o agli utenti finali. Molte piattaforme infrastrutturali misurano questo traffico e fatturano per gigabyte, mentre addebitano poco o nulla per ingress (dati in ingresso). Un host GPU con “zero egress” o “$0 egress” promette che estrarre i suoi dati non costa nulla oltre al calcolo che ha già noleggiato. Su una piattaforma GPU questa è una distinzione significativa, perché i carichi di lavoro di AI e rendering sono particolarmente intensi in termini di dati in uscita: checkpoint del modello, pesi esportati, frame renderizzati, risultati di inferenza batch e dataset sintetici devono tutti essere trasferiti da qualche parte una volta che la GPU ha terminato.

Il motivo per cui l’egress è tariffato separatamente è che la larghezza di banda verso Internet pubblico rappresenta un vero costo a monte per i fornitori. Le piattaforme che pubblicizzano nessun costo di egress o “zero egress” o “$0 egress” stanno o assorbendo quel costo nel prezzo orario della GPU, operano in una rete dove il transito è economico, oppure limitano il trasferimento gratuito incluso al traffico che rimane all’interno del proprio backbone. Capire quale di queste condizioni si applica a ciascuna voce nella comparazione sopra è tutto il gioco.

Perché l’egress è importante per i veri flussi di lavoro GPU

Il prezzo orario di una GPU è solo una voce nella fattura. Per lavori intensivi di dati, il trasferimento può diventare silenziosamente una seconda fattura — e a differenza del calcolo, è difficile da prevedere in anticipo. La tariffazione dell’egress colpisce maggiormente in questi scenari:

• Addestramento che esporta grandi checkpoint — modelli con miliardi di parametri producono checkpoint misurati in decine o centinaia di gigabyte. Se si scattano snapshot frequentemente e si copia ciascuno fuori dalla piattaforma, l’egress misurato può competere con la spesa per la GPU.
• Inferenza batch ad alto throughput — generare embedding, didascalie o media trasformati per milioni di elementi significa che il volume di output può superare di gran lunga l’input. Quell’output è egress nel momento in cui lascia il fornitore.
• Rendering e video — frame finiti e video codificati sono grandi e quasi sempre vengono estratti per lo storage o la distribuzione, rendendo il rendering uno dei carichi di lavoro GPU più sensibili all’egress.
• Pipeline multi-cloud e ibride — spostare un dataset o un modello tra un host GPU e un archivio oggetti separato, un database vettoriale o un livello di servizio attraversa un confine di rete ogni volta, e ogni attraversamento può essere misurato.
• Servire modelli a utenti reali — se la macchina GPU stessa risponde a richieste API, ogni token di risposta o immagine trasmessa a un client è egress.

Lo zero egress elimina la parte della fattura che scala in base a quanto effettivamente usa i risultati del suo calcolo. Per la sperimentazione è quasi irrilevante; per pipeline di produzione che spediscono gigabyte all’ora, può fare la differenza tra due fornitori i cui prezzi orari GPU sembravano identici.

Le clausole dietro il “nessun egress”

Non tutte le affermazioni di “egress gratuito” coprono la stessa cosa, e gli asterischi sono dove gli acquirenti si sorprendono. Quando confronta le voci sopra, verifichi esattamente quale di queste condizioni intende un fornitore:

• Egress pubblico veramente non misurato — qualsiasi download verso Internet aperto è gratuito, senza alcun addebito per gigabyte. Questa è la forma più forte e quella più utile per il servizio di produzione.
• Solo egress interno gratuito — il trasferimento è gratuito purché rimanga all’interno della regione o del backbone del fornitore, ma uscire verso Internet pubblico o un altro cloud è ancora fatturato. Utile solo se storage e calcolo sono con lo stesso fornitore.
• Un generoso livello gratuito, poi misurato — un numero fisso di gigabyte o terabyte gratuiti al mese, dopo i quali si applicano le normali tariffe di egress. Va bene per lavori piccoli, una trappola per quelli ad alto volume.
• “Gratuito” con limite di banda — nessun addebito per gigabyte, ma la velocità della porta è limitata, quindi i trasferimenti grandi sono lenti anziché costosi. Si paga in tempo reale anziché in denaro.
• Egress gratuito ma egress di storage separato — estrarre da uno storage a blocchi allegato può essere gratuito mentre estrarre da un archivio oggetti separato no. Il confine è ciò che viene fatturato.

C’è un vero compromesso da valutare. Un fornitore che include egress gratuito può avere un prezzo orario GPU leggermente più alto, perché quel costo di larghezza di banda deve essere coperto da qualche parte. Per un carico di lavoro con poco egress — lunghi addestramenti che mantengono i checkpoint in loco, o lavoro interattivo su notebook — pagare un prezzo orario più basso con egress misurato che non si attiva mai può essere complessivamente più economico. La scelta giusta dipende interamente dal rapporto output-calcolo.

Cosa verificare prima di impegnarsi

• Se l’egress gratuito si applica al traffico Internet pubblico o solo al trasferimento intra-fornitore.
• Qualsiasi limite mensile sull’allocazione gratuita e la tariffa per gigabyte una volta superato.
• Il limite di porta/larghezza di banda, poiché “gratuito ma lento” costa comunque ore GPU mentre i dati vengono trasferiti.
• Se il recupero dallo storage (letture da archivio oggetti, esportazioni di snapshot) viene conteggiato come egress separatamente dall’egress di rete.
• Come la politica interagisce con istanze spot o interrompibili — potrebbe essere necessario evacuare rapidamente i dati quando un nodo viene reclamato, e l’egress misurato con scadenza è doloroso.

Come leggere la comparazione sopra per l’egress

Stimi il suo egress prima di leggere la tabella: approssimativamente quanti gigabyte escono dalla piattaforma per esecuzione, moltiplicato per quante esecuzioni al mese. Abbini questo al prezzo orario GPU mostrato sopra. Un host con zero egress e un prezzo orario marginalmente più alto spesso vince per il servizio di produzione, inferenza batch e rendering, dove il volume di output è alto e prevedibile. Per lavori con molto addestramento e poco output, valuti prima il prezzo orario più basso e consideri l’egress come fattore secondario. Poiché sia le politiche di larghezza di banda sia i prezzi cambiano, usi la comparazione live sopra per i prezzi orari attuali e confermi i termini di egress di ciascun fornitore rispetto ai punti elencati qui.

Domande frequenti

“Zero egress” significa che tutto il mio trasferimento dati è gratuito?

Non sempre. Significa affidabilmente che il traffico in uscita non comporta alcun addebito per gigabyte, ma alcuni fornitori lo limitano al traffico che rimane nella propria rete o includono solo una quota mensile fissa prima che inizi la misurazione. Il trasferimento in ingresso (ingress) è quasi universalmente gratuito ovunque, quindi la dichiarazione sull’egress è la parte da verificare.

Quanto possono realisticamente aggiungere le tariffe di egress a una fattura GPU?

Dipende interamente dal volume di output. Alcuni notebook sperimentali generano un egress trascurabile, quindi la tariffa è un errore di arrotondamento. Una pipeline di produzione che esporta grandi checkpoint, rende video o serve risposte modello agli utenti può muovere terabyte al mese, momento in cui l’egress misurato può diventare una frazione considerevole del totale — talvolta avvicinandosi al costo del calcolo stesso.

Dovrei sempre scegliere un fornitore con zero egress?

No. L’egress gratuito a volte comporta un prezzo orario GPU leggermente più alto. Se il suo carico di lavoro mantiene i dati in loco — lunghi addestramenti, sviluppo interattivo — potrebbe pagare meno complessivamente con un prezzo orario più basso e egress misurato che raramente attiva. Abbini la politica al suo rapporto output-calcolo invece di considerare automaticamente migliore lo zero egress.

L’egress gratuito è mai limitato?

Sì. Alcuni fornitori offrono nessun addebito per gigabyte ma limitano la velocità della porta, quindi una grande esportazione è lenta anziché costosa. Poiché l’orologio GPU può continuare a girare mentre i dati vengono trasferiti, “gratuito ma lento” ha comunque un costo reale in ore GPU. Controlli sempre il limite di banda insieme ai prezzi.