Louer NVIDIA GB200 Superchip dans le Cloud
Dual-B200 superchip with Grace CPU. 384GB combined HBM3e for extreme-scale workloads.
Pas encore de données de prix disponibles pour ce modèle de GPU. Revenez bientôt.
Spécifications techniques de NVIDIA GB200 Superchip
Idéal pour
Questions Fréquemment Posées
NVIDIA GB200 Superchip supporte-t-il BF16 et FP8 ?
La fiche technique complète NVIDIA GB200 Superchip indique : génération Blackwell, 384 Go de VRAM HBM3e, 16,000 Go/s de bande passante mémoire, 4,500 TFLOPS FP16, 150 TFLOPS FP32, consommation 2,700W, sortie en 2024.
La mémoire est généralement la contrainte pour le service temps réel de grands modèles — avec 384 Go, NVIDIA GB200 Superchip gère confortablement les transformateurs de taille moyenne en FP16 et des modèles beaucoup plus grands en FP8/INT8. Le chiffre 16,000 Go/s est particulièrement important pour le décodage autoregressif lié au cache KV, où la bande passante mémoire limite le nombre de tokens par seconde plus que le calcul brut.
Full specs, benchmarks, and comparisons are on the NVIDIA GB200 Superchip page.
Quelle est la scalabilité de NVIDIA GB200 Superchip sur plusieurs GPU ?
Titre de performance NVIDIA GB200 Superchip : 4,500 TFLOPS FP16, 150 TFLOPS FP32, 16,000 GB/s de bande passante, 384 GB de VRAM.
Converti en benchmarks pratiques : l’entraînement d’un LLM de 7 milliards de paramètres en FP16 avec des tailles de lots raisonnables sature généralement le calcul avant la bande passante ; le service temps réel sur le même modèle est habituellement limité par la bande passante et suit la valeur 16,000 GB/s. Les benchmarks de génération d’images par diffusion se situent entre les deux — les étapes intensives en calcul utilisent bien les cœurs tensoriels, tandis que les blocs d’attention sollicitent encore la bande passante.
See the NVIDIA GB200 Superchip page for the full spec sheet and comparisons to related GPUs.
Cas d'utilisation de NVIDIA GB200 Superchip — où excelle-t-il ?
NVIDIA GB200 Superchip est idéal pour les charges de travail où ses 384 Go de VRAM et Blackwell cœurs tensoriels sont bien adaptés : Largest-scale AI training, multi-trillion parameter models.
Si votre charge de travail nécessite beaucoup plus de mémoire (par exemple, l'entraînement de modèles de pointe à partir de zéro), NVIDIA GB200 Superchip est sous-dimensionné et vous préférerez une carte de classe H100/H200/B200. Si votre charge de travail nécessite moins (par exemple, un service à petite échelle sur des modèles de 7 milliards de paramètres), des cartes moins coûteuses comme la L4 ou la RTX 4090 peuvent être plus rentables. Pour la gamme intermédiaire, NVIDIA GB200 Superchip est généralement le choix judicieux.
Review full specs and related comparisons on the NVIDIA GB200 Superchip page.
Comparer avec d'autres GPUs
Découvrez comment NVIDIA GB200 Superchip se positionne par rapport à d'autres GPUs cloud populaires en termes de spécifications, prix et disponibilité.