Como NVIDIA GeForce RTX 4080 SUPER se compara ao H100 em benchmarks?

Resposta

Especificações de desempenho NVIDIA GeForce RTX 4080 SUPER: 52.4 TFLOPS FP16 / 26.2 TFLOPS FP32 / 736 GB/s / 16 GB.

Três classes de carga de trabalho, três gargalos diferentes: fine-tuning estressa os núcleos tensor FP16/BF16 (limitado por FLOPS); serving em grandes modelos de linguagem estressa a largura de banda da memória (limitado por largura de banda); simulação estilo HPC estressa FP32 (também limitado por FLOPS). NVIDIA GeForce RTX 4080 SUPER cobre todas as três competentemente para sua geração. Se sua mistura de cargas de trabalho tende para uma classe, faça benchmark especificamente com essa carga em vez de confiar em números sintéticos de pico.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4080 SUPER page.