Alugar NVIDIA GB200 Superchip na Nuvem
Dual-B200 superchip with Grace CPU. 384GB combined HBM3e for extreme-scale workloads.
Ainda não há dados de preços disponíveis para este modelo de GPU. Volte em breve.
Especificações Técnicas de NVIDIA GB200 Superchip
Melhor Para
Perguntas Frequentes
NVIDIA GB200 Superchip suporta BF16 e FP8?
A ficha técnica completa NVIDIA GB200 Superchip diz: geração Blackwell, 384 GB de VRAM HBM3e, largura de banda de memória de 16,000 GB/s, 4,500 TFLOPS FP16, 150 TFLOPS FP32, consumo de energia de 2,700W, lançado em 2024.
A memória é tipicamente a restrição para atendimento em tempo real de modelos grandes — com 384 GB, NVIDIA GB200 Superchip lida confortavelmente com transformadores de tamanho médio em FP16 e modelos muito maiores em FP8/INT8. O número 16,000 GB/s é particularmente importante para decodificação autoregressiva limitada por cache KV, onde a largura de banda da memória limita tokens por segundo mais que a computação bruta.
Full specs, benchmarks, and comparisons are on the NVIDIA GB200 Superchip page.
Quão bem NVIDIA GB200 Superchip escala em múltiplas GPUs?
Destaque de desempenho NVIDIA GB200 Superchip: 4,500 TFLOPS FP16, 150 TFLOPS FP32, 16,000 GB/s de largura de banda, 384 GB de VRAM.
Convertido em benchmarks práticos: treinamento de modelo LLM de 7 bilhões de parâmetros em FP16 com tamanhos de lote razoáveis normalmente satura a computação antes da largura de banda; serving em tempo real no mesmo modelo geralmente é limitado pela largura de banda e acompanha o número 16,000 GB/s. Benchmarks de geração de imagens por difusão ficam entre os dois — etapas pesadas em computação utilizam bem os núcleos tensor, enquanto blocos de atenção ainda acessam a largura de banda.
See the NVIDIA GB200 Superchip page for the full spec sheet and comparisons to related GPUs.
Casos de uso do NVIDIA GB200 Superchip — onde ele se destaca?
NVIDIA GB200 Superchip é melhor para cargas de trabalho onde seus 384 GB de VRAM e Blackwell núcleos tensor são bem equilibrados: Largest-scale AI training, multi-trillion parameter models.
Se sua carga de trabalho precisa de significativamente mais memória (por exemplo, treinamento de modelos de ponta do zero), NVIDIA GB200 Superchip é pequeno demais e você vai querer uma placa da classe H100/H200/B200. Se sua carga de trabalho precisa de menos (por exemplo, atendimento em pequena escala em modelos de 7 bilhões de parâmetros), placas mais baratas como L4 ou RTX 4090 podem ser mais econômicas. Para a faixa intermediária, NVIDIA GB200 Superchip geralmente é a escolha sensata.
Review full specs and related comparisons on the NVIDIA GB200 Superchip page.
Comparar com Outras GPUs
Veja como NVIDIA GB200 Superchip se compara com outras GPUs populares de nuvem em especificações, preços e disponibilidade.