Fornitori di GPU Cloud senza costi di uscita

Cosa significa realmente “zero costi di uscita” quando si noleggiano GPU nel cloud

Egress è il dato che esce dalla rete di un provider — i byte che scarica dal cloud al suo laptop, a un altro cloud o agli utenti finali. Molte piattaforme infrastrutturali misurano questo traffico e fatturano a gigabyte, mentre addebitano poco o nulla per l’ingress (dati in entrata). Un host GPU con “zero egress” o “$0 egress” promette che estrarre i dati non costa nulla oltre al calcolo già noleggiato. Su una piattaforma GPU questa è una distinzione significativa, perché i carichi di lavoro di AI e rendering sono particolarmente intensi in termini di dati in uscita: checkpoint dei modelli, pesi esportati, frame renderizzati, risultati di inferenza batch e dataset sintetici devono tutti essere trasferiti da qualche parte una volta che la GPU ha terminato.

Il motivo per cui l’egress è tariffato separatamente è che la larghezza di banda verso Internet pubblico rappresenta un costo reale a monte per i provider. Le piattaforme che pubblicizzano l’assenza di costi di egress o li includono nel prezzo orario della GPU, operano in una rete dove il transito è economico o limitano il trasferimento gratuito incluso al traffico che rimane all’interno della loro dorsale. Capire quale di queste condizioni si applica a ciascuna voce nel confronto sopra è tutta la questione.

Perché l’egress è importante per i flussi di lavoro GPU reali

Il prezzo orario di una GPU è solo una voce nella fattura. Per lavori intensivi di dati, il trasferimento può diventare silenziosamente una seconda fattura — e a differenza del calcolo, è difficile da prevedere in anticipo. La tariffazione dell’egress colpisce maggiormente in questi scenari:

• Addestramento che esporta grandi checkpoint — modelli con miliardi di parametri producono checkpoint misurati in decine o centinaia di gigabyte. Se si eseguono snapshot frequenti e si copia ciascuno fuori dalla piattaforma, l’egress misurato può competere con la spesa per la GPU.
• Inferenza batch ad alto throughput — generare embedding, didascalie o media trasformati per milioni di elementi significa che il volume di output può superare di gran lunga l’input. Quell’output è egress dal momento in cui lascia il provider.
• Rendering e video — frame finiti e video codificati sono di grandi dimensioni e quasi sempre vengono estratti per lo storage o la distribuzione, rendendo il rendering uno dei carichi di lavoro GPU più sensibili all’egress.
• Pipeline multi-cloud e ibride — spostare un dataset o un modello tra un host GPU e un archivio oggetti separato, un database vettoriale o un livello di servizio attraversa un confine di rete ogni volta, e ogni attraversamento può essere misurato.
• Servire modelli a utenti reali — se la macchina GPU risponde direttamente a richieste API, ogni token di risposta o immagine trasmessa a un client è egress.

Lo zero egress elimina la parte della fattura che scala in base a quanto effettivamente usa i risultati del calcolo. Per la sperimentazione è quasi irrilevante; per pipeline di produzione che trasferiscono gigabyte all’ora, può fare la differenza tra due provider con tariffe orarie GPU apparentemente identiche.

Le clausole nascoste dietro il “no egress”

Non tutte le affermazioni di “egress gratuito” coprono la stessa cosa, e gli asterischi sono dove i compratori si sorprendono. Quando si confrontano le voci sopra, verifichi esattamente quale di queste condizioni intende un provider:

• Egress pubblico veramente non misurato — qualsiasi download verso Internet aperto è gratuito, senza alcun addebito per gigabyte. Questa è la forma più forte e la più utile per il servizio in produzione.
• Solo egress interno gratuito — il trasferimento è gratuito purché rimanga all’interno della regione o della dorsale del provider, ma uscire verso Internet pubblico o un altro cloud è ancora fatturato. Utile solo se storage e calcolo risiedono presso lo stesso fornitore.
• Una generosa soglia gratuita, poi misurata — un numero fisso di gigabyte o terabyte gratuiti al mese, dopo i quali si applicano le tariffe normali di egress. Va bene per lavori piccoli, una trappola per quelli ad alto volume.
• “Gratuito” con limite di banda — nessun addebito per gigabyte, ma la velocità della porta è limitata, quindi i trasferimenti grandi sono lenti anziché costosi. Si paga in tempo reale anziché in denaro.
• Egress gratuito ma egress da storage separato — il prelievo da storage a blocchi allegato può essere gratuito mentre il prelievo da un archivio oggetti separato no. Il confine è ciò che viene fatturato.

Esiste un vero compromesso da valutare. Un provider che include l’egress gratuito può avere una tariffa oraria GPU leggermente più alta, perché quel costo di larghezza di banda deve essere coperto da qualche parte. Per un carico di lavoro con poco egress — lunghi addestramenti che mantengono i checkpoint in loco o lavoro interattivo su notebook — pagare una tariffa oraria inferiore con egress misurato che non si attiva mai può essere complessivamente più economico. La scelta giusta dipende interamente dal rapporto output-calcolo.

Cosa verificare prima di impegnarsi

• Se l’egress gratuito si applica al traffico Internet pubblico o solo al trasferimento intra-provider.
• Eventuali limiti mensili sulla quota gratuita e la tariffa per gigabyte una volta superata.
• Il limite di porta/larghezza di banda, poiché “gratuito ma lento” costa comunque ore GPU mentre i dati vengono trasferiti.
• Se il recupero dallo storage (letture da archivio oggetti, esportazioni di snapshot) è conteggiato come egress separatamente dall’egress di rete.
• Come la politica interagisce con istanze spot o interrompibili — potrebbe essere necessario evacuare i dati rapidamente quando un nodo viene recuperato, e l’egress misurato con scadenza è problematico.

Come leggere il confronto sopra per l’egress

Stimi il suo egress prima di leggere la tabella: approssimativamente quanti gigabyte escono dalla piattaforma per esecuzione, moltiplicato per quante esecuzioni al mese. Abbini questo al prezzo orario GPU mostrato sopra. Un host con zero egress e un prezzo orario marginalmente più alto spesso vince per il servizio in produzione, l’inferenza batch e il rendering, dove il volume di output è alto e prevedibile. Per lavori con addestramento intenso e output ridotto, consideri prima la tariffa oraria più bassa e tratti l’egress come fattore secondario. Poiché sia le politiche di larghezza di banda sia i prezzi cambiano, usi il confronto live sopra per le tariffe orarie attuali e confermi i termini di egress di ciascun provider rispetto ai punti elencati qui.

Domande frequenti

“Zero egress” significa che tutto il mio trasferimento dati è gratuito?

Non sempre. Significa affidabilmente che il traffico in uscita non comporta alcun addebito per gigabyte, ma alcuni provider lo limitano al traffico che rimane nella loro rete o includono solo una quota mensile fissa prima di iniziare la misurazione. Il trasferimento in entrata (ingress) è quasi universalmente gratuito ovunque, quindi la dichiarazione sull’egress è la parte da verificare.

Quanto possono realisticamente aggiungere le tariffe di egress a una fattura GPU?

Dipende interamente dal volume di output. Alcuni notebook sperimentali generano un egress trascurabile, quindi la tariffa è un errore di arrotondamento. Una pipeline di produzione che esporta grandi checkpoint, rende video o serve risposte modello agli utenti può spostare terabyte al mese, momento in cui l’egress misurato può diventare una frazione significativa del totale — a volte avvicinandosi al costo del calcolo stesso.

Dovrei sempre scegliere un provider con zero egress?

No. L’egress gratuito a volte comporta una tariffa oraria GPU leggermente più alta. Se il suo carico di lavoro mantiene i dati in loco — lunghi addestramenti, sviluppo interattivo — potrebbe pagare meno complessivamente con una tariffa oraria più bassa e egress misurato che raramente attiva. Abbini la politica al suo rapporto output-calcolo invece di considerare lo zero egress automaticamente migliore.

L’egress gratuito è mai limitato?

Sì. Alcuni provider offrono nessun addebito per gigabyte ma limitano la velocità della porta, quindi un’esportazione grande è lenta anziché costosa. Poiché l’orologio GPU può continuare a girare mentre i dati vengono trasferiti, “gratuito ma lento” ha comunque un costo reale in ore GPU. Verifichi sempre il limite di larghezza di banda insieme ai prezzi.