Jak NVIDIA GeForce RTX 4080 SUPER wypada w benchmarku w porównaniu do H100?

Odpowiedź

Specyfikacje wydajności NVIDIA GeForce RTX 4080 SUPER: 52.4 TFLOPS FP16 / 26.2 TFLOPS FP32 / 736 GB/s / 16 GB.

Trzy klasy obciążeń, trzy różne wąskie gardła: dostrajanie obciąża rdzenie tensorowe FP16/BF16 (ograniczone FLOPS); obsługa dużych modeli językowych obciąża przepustowość pamięci (ograniczone przepustowością); symulacje w stylu HPC obciążają FP32 (również ograniczone FLOPS). NVIDIA GeForce RTX 4080 SUPER kompetentnie obsługuje wszystkie trzy dla swojej generacji. Jeśli Twój miks obciążeń skłania się ku jednej klasie, wykonaj testy wydajnościowe z tym konkretnym obciążeniem zamiast polegać na syntetycznych wartościach szczytowych.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4080 SUPER page.