NVIDIA B100 สามารถสร้างภาพได้กี่ภาพต่อวินาที?

คำตอบ

ประสิทธิภาพที่ทดสอบบน NVIDIA B100: 1,750 TFLOPS ใน FP16, 60 TFLOPS ใน FP32, แบนด์วิดท์หน่วยความจำ 8,000 GB/s, VRAM 192 GB

สำหรับงานที่วิศวกรส่วนใหญ่สนใจ — การฝึกสอนโมเดลในตระกูลทรานส์ฟอร์เมอร์, การให้บริการ LLM ที่มีความหน่วงต่ำ, การรัน pipeline diffusion และวิสัยทัศน์ — สเปคเหล่านี้เพียงพอที่จะรองรับขนาดแบตช์ที่ทำให้ tensor cores ทำงานอย่างต่อเนื่อง คาดว่าการเพิ่มขึ้นของเวลาจริงเมื่อเทียบกับการ์ด Blackwell รุ่นก่อนหน้าจะอยู่ระหว่าง 1.5x ถึง 3x ขึ้นอยู่กับลักษณะงาน

See the NVIDIA B100 page for the full spec sheet and comparisons to related GPUs.