¿Cómo se compara NVIDIA GeForce RTX 4080 SUPER con H100 en benchmarks?

Respuesta

Especificaciones de rendimiento NVIDIA GeForce RTX 4080 SUPER: 52.4 TFLOPS FP16 / 26.2 TFLOPS FP32 / 736 GB/s / 16 GB.

Tres clases de carga de trabajo, tres cuellos de botella diferentes: el ajuste fino estresa los núcleos tensoriales FP16/BF16 (limitado por FLOPS); el servicio en modelos de lenguaje grandes estresa el ancho de banda de memoria (limitado por ancho de banda); la simulación estilo HPC estresa FP32 (también limitado por FLOPS). NVIDIA GeForce RTX 4080 SUPER cubre competentemente las tres para su generación. Si su mezcla de cargas de trabajo se inclina hacia una clase, realice pruebas de rendimiento con esa carga específicamente en lugar de confiar en números sintéticos máximos.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4080 SUPER page.