Renta NVIDIA GB200 Superchip en la Nube
Dual-B200 superchip with Grace CPU. 384GB combined HBM3e for extreme-scale workloads.
Aún no hay datos de precios disponibles para este modelo de GPU. Vuelva pronto.
Especificaciones Técnicas de NVIDIA GB200 Superchip
Mejor Para
Preguntas Frecuentes
¿Soporta NVIDIA GB200 Superchip BF16 y FP8?
La hoja de especificaciones completa de NVIDIA GB200 Superchip dice: generación Blackwell, 384 GB de VRAM HBM3e, 16,000 GB/s de ancho de banda de memoria, 4,500 TFLOPS FP16, 150 TFLOPS FP32, consumo de energía 2,700W, lanzada en 2024.
La memoria suele ser la limitación para el servicio en tiempo real de modelos grandes: con 384 GB, NVIDIA GB200 Superchip maneja cómodamente transformadores de tamaño medio en FP16 y modelos mucho más grandes en FP8/INT8. La cifra de 16,000 GB/s es particularmente importante para la decodificación autoregresiva limitada por caché KV, donde el ancho de banda de memoria limita los tokens por segundo más que el cómputo bruto.
Full specs, benchmarks, and comparisons are on the NVIDIA GB200 Superchip page.
¿Qué tan bien escala NVIDIA GB200 Superchip en múltiples GPUs?
Titular de rendimiento de NVIDIA GB200 Superchip: 4,500 TFLOPS FP16, 150 TFLOPS FP32, 16,000 GB/s de ancho de banda, 384 GB de VRAM.
Convertido en benchmarks prácticos: entrenar un LLM de 7 mil millones de parámetros en FP16 con tamaños de lote razonables típicamente satura el cómputo antes que el ancho de banda; el servicio en tiempo real en el mismo modelo usualmente está limitado por el ancho de banda y sigue la cifra de 16,000 GB/s. Los benchmarks de generación de imágenes por difusión se sitúan entre ambos — los pasos intensivos en cómputo utilizan bien los núcleos tensoriales, mientras que los bloques de atención aún usan ancho de banda.
See the NVIDIA GB200 Superchip page for the full spec sheet and comparisons to related GPUs.
Casos de uso de NVIDIA GB200 Superchip — ¿dónde destaca?
NVIDIA GB200 Superchip es mejor para cargas de trabajo donde sus 384 GB de VRAM y Blackwell núcleos tensoriales están bien equilibrados: Largest-scale AI training, multi-trillion parameter models.
Si tu carga de trabajo necesita significativamente más memoria (por ejemplo, entrenar modelos de frontera desde cero), NVIDIA GB200 Superchip es insuficiente y querrás una tarjeta de clase H100/H200/B200. Si tu carga de trabajo necesita menos (por ejemplo, servicio a pequeña escala en modelos de 7 mil millones de parámetros), tarjetas más económicas como L4 o RTX 4090 pueden ser más rentables. Para la banda media, NVIDIA GB200 Superchip suele ser la elección sensata.
Review full specs and related comparisons on the NVIDIA GB200 Superchip page.
Comparar con otras GPUs
Ve cómo NVIDIA GB200 Superchip se compara con otras GPUs populares en la nube en especificaciones, precios y disponibilidad.