LLM'lerin İnce Ayarı İçin En İyi Bulut GPU'ları

Kiralanan bir GPU’dan ince ayarın aslında ne talep ettiğine dair

İnce ayar, önceden eğitilmiş bir modeli alır ve onu daha dar bir veri kümesi üzerinde eğitmeye devam eder, böylece model alanınıza, tonunuza veya görevinize uyum sağlar. Baştan bir model eğitmeye kıyasla, hesaplama maliyeti çok daha küçüktür, ancak bellek ve iş akışı gereksinimleri hâlâ çok özeldir. En büyük kısıtlama VRAM‘dır, çünkü ince ayar sırasında bir GPU, model ağırlıklarını, gradyanları, optimize edici durumunu ve partinin aktivasyon belleğini aynı anda tutmak zorundadır. Bu birleşik bellek kullanımı, ham teraflops değil, genellikle yukarıdaki karşılaştırmadan kiraladığınız kartın işe uyup uymayacağını belirler.

Bu bellek kullanımının ne kadar ağır olduğu tamamen seçtiğiniz ince ayar yöntemine bağlıdır:

• Tam ince ayar, her ağırlığı günceller ve en fazla bellek gerektiren seçenektir. Yaklaşık bir kural olarak, optimize edici durumu dahil edildiğinde, modelin parametre sayısının birkaç katı kadar bayt cinsinden VRAM gerekir; bu yüzden büyük dil modellerinin tam ince ayarı genellikle çoklu GPU düğümlerine kaydırılır.
• LoRA ve QLoRA, temel ağırlıkları dondurur ve küçük düşük rütbeli adaptörleri eğitir, böylece gradyanlar ve optimize edici durumu için gereken belleği büyük ölçüde azaltır. QLoRA ayrıca donmuş temel modeli kuantize edilmiş 4-bit formda yükler, bu nedenle aksi takdirde çoklu GPU düğümü gerektiren modeller genellikle tek bir yüksek VRAM kartında ince ayarlanabilir.
• Parametre verimli yöntemler genel olarak (adaptörler, prefix tuning) küçük bir doğruluk sınırı karşılığında donanım gereksinimlerini dramatik şekilde düşürür ve bu nedenle birçok pratik ince ayar, amiral gemisi hızlandırıcılardan ziyade orta seviye kiralık GPU’larda çalışır.

Kartı işe uygun hale getirmek

Bellek sınırı baskın olduğu için, yukarıdaki karşılaştırmayı okumak için en faydalı yol, ince ayar yapmayı planladığınız en büyük model ve kullanacağınız yöntemi belirleyip, ardından VRAM’e doğru geriye doğru çalışmaktır.

• Tek yüksek VRAM GPU (büyük HBM havuzlarına sahip veri merkezi kartları): orta boy dil modelleri, görsel modeller ve çoğu difüzyon ince ayarı için idealdir. Bu, maliyet bilincine sahip adaptör tabanlı işler için tatlı noktadır.
• NVLink veya eşdeğer hızlı bağlantıya sahip çoklu GPU düğümleri: daha büyük modellerin tam ince ayarı için gereklidir; burada ağırlıklar ve optimize edici durumu, ZeRO/FSDP gibi tekniklerle kartlar arasında parçalanır. Burada GPU’lar arası bant genişliği, kart başı VRAM kadar önemlidir çünkü parçalanmış eğitim sürekli olarak gradyan alışverişi yapar; hızlı bir ağ yapısına sahip bir düğüm, PCIe bağlantılarının darboğaz olabileceği durumlarda GPU’ları beslemeye devam eder.
• GDDR belleğe sahip tüketici sınıfı kartlar: bütçe dostu küçük model ve QLoRA deneyleri için uygundur, ancak daha düşük VRAM sınırları ve hızlı çoklu GPU bağlantısının sıkça olmaması, tek bir karta sığmayan işler için onları zayıf bir seçenek yapar.

Desteklenen hassasiyet diğer kontrol edilmesi gereken donanım detayıdır. Modern ince ayar, BF16 ve FP16 karışık hassasiyetine dayanır ve kuantize yöntemler INT8/4-bit çekirdeklerine güvenir. Bu formatlar için olgun tensor-core desteğine sahip kartlar, daha eski donanımlara kıyasla anlamlı şekilde daha hızlı ince ayar yapar ve daha büyük partileri sığdırmanıza olanak tanır.

İnce ayar çalışmasını yapıp bozabilecek sağlayıcı özellikleri

İnce ayar yinelemelidir: bir yapılandırmayı dener, kayıp eğrisini izler, hiperparametreleri ayarlar ve yeniden çalıştırırsınız. Bu ritim, bazı sağlayıcı özelliklerinin tek seferlik çıkarım için olduğundan daha önemli olmasını sağlar.

• Kalıcı depolama ve hızlı veri yükleme: veri kümeniz, tokenizer önbelleğiniz ve kontrol noktalarınız oturumlar arasında kalmalıdır. Sağlayıcının her seferinde büyük bir veri kümesini yeniden yüklemeye zorlaması gerçek paranın boşa harcanmasıdır. Örneğin, örnek durdurulduğunda depolamanın kalıcı olup olmadığını ve veri çıkışının nasıl ücretlendirildiğini kontrol edin.
• Kontrol noktası alma ve kesintiye dayanıklılık: saatler süren ince ayar çalışmaları sık kontrol noktası yazımından faydalanır, bu da daha ucuz spot veya kesintiye açık örneklerin kullanılmasını mümkün kılar. Kodunuz son kontrol noktasından temiz şekilde devam ediyorsa, bir kesinti tüm çalışmayı değil sadece birkaç dakikayı kaybettirir.
• Faturalandırma ayrıntısı: saniye veya dakika başı faturalandırma, sonuçları incelerken durup başlatma doğasına ödüllendirme yapar. Saatlik kaba faturalandırma aynı iş akışını cezalandırır.
• Ortam kontrolü: SSH erişimi, Docker imajları ve Jupyter defterleri, tam çerçeve ve CUDA sürümlerini sabitlemenize olanak tanır; çünkü kuantizasyon ve PEFT kütüphaneleri sürüm hassastır.
• Çoklu düğüm ağ bağlantısı: büyük modellerin tam ince ayarını bekliyorsanız, sağlayıcının sadece kutudaki GPU sayısını değil, gerçekten hızlı düğüm içi ve düğümler arası bağlantı sunduğundan emin olun.

Yukarıdaki karşılaştırmayı maliyet açısından okumak

İnce ayar işleri genellikle kısa ve ani olur, sürekli açık değildir; bu nedenle kiralama stratejisi çıkarım sunumundan farklıdır. Talep üzerine fiyatlandırma, kritik bir çalışma için kesintisiz garanti sağlar; spot ve kesintiye açık kapasite ise kontrol noktası dostu deneylerde yeniden başlatma ucuz olduğu için etkili maliyet düşürür. Amiral gemisi hızlandırıcılar maliyet spektrumunun en üstünde yer alır ve genellikle daha nadirdir; bu yüzden adaptör tabanlı ince ayar için yukarıdaki listeden biraz daha eski yüksek VRAM kartları genellikle daha iyi maliyet-sonuç oranı sunar. Canlı, sağlayıcıya özgü fiyatlandırma ve kullanılabilirlik için tabloyu kullanın; fiyatlar sık sık değişir ve bölge ile örnek türüne göre farklılık gösterir, bu nedenle oradaki herhangi bir rakamı güncel gerçek olarak kabul edin, metinde verilen sayıya güvenmeyin.

Sıkça sorulan sorular

Bir LLM’yi ince ayar yapmak için ne kadar GPU belleğine ihtiyacım var?

Model boyutuna ve yönteme bağlıdır. QLoRA, donmuş temel modeli 4-bit kuantize ettiği için tek bir yüksek VRAM kartında şaşırtıcı derecede büyük modelleri sığdırabilir; oysa aynı modelin tam ince ayarı, ağırlıklar, gradyanlar ve optimize edici durumu için birkaç GPU’nun birleşik belleğini gerektirebilir. En büyük hedef modeliniz ve seçtiğiniz yöntemden başlayın, ardından yukarıdaki karşılaştırmadan aktivasyonlar ve parti boyutu için yeterli boşluk sağlayan bir kart veya düğüm seçin.

Tek bir GPU yeterli mi yoksa çoklu GPU düğümüne mi ihtiyacım var?

Küçük ve orta boy modellerde LoRA ve QLoRA için genellikle tek bir yüksek VRAM GPU yeterlidir. Daha büyük modellerin tam ince ayarı veya büyük parti boyutlarıyla eğitim genellikle, parçalanmış ağırlıklar ve gradyanların darboğaz olmadan değiş tokuş edilebilmesi için hızlı bağlantıya sahip çoklu GPU düğümü gerektirir.

İnce ayar için daha ucuz spot veya kesintiye açık örnekleri kullanabilir miyim?

Evet, eğitim döngünüz sık sık kontrol noktası alıyor ve temiz şekilde devam ediyorsa. İnce ayar çalışmaları son kontrol noktasından yeniden başlatılabildiği için, bir kesinti sadece o kontrol noktasından sonraki işi kaybettirir; bu da spot kapasiteyi, kesin teslim tarihi olmayan deneysel çalışmalar için maliyeti düşürmenin etkili bir yolu yapar.

İnce ayar, tam eğitimle aynı donanıma mı ihtiyaç duyar?

Hayır. Özellikle parametre verimli yöntemler, sıfırdan bir modeli eğitmekten çok daha az bellek ve hesaplama gerektirir, bu yüzden genellikle sıfırdan eğitim için gerekenin altında veya daha eski bir kart kiralayabilirsiniz. Amiral gemisi hızlandırıcılar genellikle adaptör tabanlı ince ayar için aşırı güçlüdür ve büyük ölçekli ön eğitim için daha uygundur.