NVIDIA · Blackwell Architecture

Huur NVIDIA B100 in de Cloud

Entry-level Blackwell data center GPU. Limited availability as most providers opted for B200.

VRAM 192 GB HBM3e
Bandbreedte 8,000 GB/s
FP16 1750.0 TFLOPS
FP32 60.0 TFLOPS
TDP 700W
Architectuur Blackwell

Nog geen prijsgegevens beschikbaar voor dit GPU-model. Kom binnenkort terug.

NVIDIA B100 Technische Specificaties

Fabrikant NVIDIA
Architectuur Blackwell
VRAM 192 GB HBM3e
Bandbreedte 8,000 GB/s
FP16 (Tensor) 1750.0 TFLOPS
FP32 60.0 TFLOPS
TDP 700W
Jaar van Uitgave 2024
Segment Datacenter
Geheugentype HBM3e

Beste Voor

AI training large-scale inference

Veelgestelde Vragen

NVIDIA B100 specificaties — VRAM, bandbreedte en TFLOPS uitgelegd

Hardwareoverzicht voor NVIDIA B100: architectuur Blackwell, VRAM 192 GB HBM3e, bandbreedte 8,000 GB/s, FP16 1,750 TFLOPS, FP32 60 TFLOPS, TDP 700W, jaar 2024.

Die specificaties plaatsen NVIDIA B100 stevig in de moderne generatie AI-versnellers. Of het de juiste keuze is, hangt af van of uw bottleneck capaciteit (VRAM), doorvoer (bandbreedte of TFLOPS) of kosten is — alle drie zijn belangrijker dan één enkel kopcijfer.

Full specs, benchmarks, and comparisons are on the NVIDIA B100 page.

Hoeveel beelden per seconde kan NVIDIA B100 genereren?

Geteste prestaties op NVIDIA B100: 1,750 TFLOPS in FP16, 60 TFLOPS in FP32, 8,000 GB/s geheugenbandbreedte, 192 GB VRAM.

Voor de werklasten die de meeste engineers interesseren — modeltraining van transformer-familie modellen, serving van LLM low-latency inferentie, draaien van diffusie- en visie-pijplijnen — zijn die specificaties genoeg om batchgroottes te ondersteunen die tensor cores bezighouden. Verwacht kloktijdwinsten ten opzichte van vorige generatie Blackwell kaarten van 1,5x tot 3x afhankelijk van de werklastvorm.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.

NVIDIA B100 gebruikssituaties — waar blinkt het in uit?

NVIDIA B100 is het beste voor workloads waarbij zijn 192 GB VRAM en Blackwell tensor cores goed op elkaar zijn afgestemd: AI training, large-scale inference.

Als uw workload aanzienlijk meer geheugen nodig heeft (bijv. training van grensverleggende modellen vanaf nul), is NVIDIA B100 te klein en wilt u een kaart van het H100/H200/B200-klasse. Als uw workload minder nodig heeft (bijv. kleinschalige serving op 7 miljard parameters modellen), kunnen goedkopere kaarten zoals L4 of RTX 4090 kostenefficiënter zijn. Voor het middensegment is NVIDIA B100 meestal de verstandige keuze.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.

Vergelijk met andere GPUs

Bekijk hoe NVIDIA B100 zich verhoudt tot andere populaire cloud-GPU's qua specificaties, prijzen en beschikbaarheid.