Másodpercenként hány képet képes generálni a NVIDIA B100?

Válasz

Mért teljesítmény NVIDIA B100-on: 1,750 TFLOPS FP16-ban, 60 TFLOPS FP32-ben, 8,000 GB/s memória-sávszélesség, 192 GB VRAM.

Azoknál a munkaterheléseknél, amelyek a legtöbb mérnököt érdeklik — transzformer család modellek tanítása, LLM alacsony késleltetésű inferencia kiszolgálása, diffúziós és látás pipeline-ok futtatása — ezek a specifikációk elegendőek a tömegméretek fenntartásához, amelyek lekötik a tenzormagokat. A falióra szerinti teljesítményjavulás az előző generációs Blackwell kártyákhoz képest 1,5x-től 3x-ig terjedhet a munkaterhelés alakjától függően.

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.