GPU Model Rehberleri

Mimariye Göre

Hopper, Blackwell, Ada Lovelace, Ampere, CDNA — bulutta mevcut her GPU nesli.

Bu kategoride

CDNA 3, MI300X ve MI325X'i güçlendiriyor — AMD'nin H100/H200'e cevabı, paket başına daha büyük HBM kapasitesiyle.

CDNA 4 (MI350X, MI355X), her GPU başına 288 GB HBM3e ile AMD'nin yeni nesil sınır hesaplama mimarisidir.

Ada Lovelace, L4, L40, L40S, RTX 4090, RTX 6000 Ada ve daha geniş RTX 40 serisini kapsar. Çıkarım ve ince ayar için fiyat/performans dengesi.

Ampere — A100, A40, A30, A10, A2, RTX A6000, RTX 30-serisi — bulutta en yaygın bulunan GPU ailesidir ve genellikle en iyi $/saat oranına…

Blackwell, NVIDIA'nın güncel nesil yapay zeka mimarisidir. Bulut sağlayıcılarında mevcut olan tüm Blackwell GPU'lar.

Blackwell Ultra, NVIDIA'nın bugün üretimdeki en yüksek VRAM ve bellek bant genişliğine sahip frontier sınıfı yenilemesidir.

Hopper sınıfı GPU'lar (H100, H200, GH200) hala büyük model eğitimi ve çıkarımı için temel iş gücüdür. Buluttaki her Hopper GPU'yu karşılaştırın.

Pascal dönemi GPU'ları (Tesla P4, GTX 1080), bulut GPU pazarının en ucuz uç noktasıdır — eski çıkarım ve deneme için kullanışlıdır.

Turing GPU'ları (Tesla T4), çıkarım ve video iş yükleri için uygun fiyatlı bir seçenek olmaya devam ediyor.

Volta (Tesla V100) eski teknoloji olsa da hala ucuz ve makine öğrenimi araştırmaları, ince ayar ve çıkarım için yeteneklidir.