NVIDIA GeForce RTX 4080 SUPER가 H100과 비교한 벤치마크 성능은 어떤가요?

답변

NVIDIA GeForce RTX 4080 SUPER 성능 사양: 52.4 FP16 TFLOPS / 26.2 FP32 TFLOPS / 736 GB/s / 16 GB.

세 가지 작업 부하 클래스, 세 가지 다른 병목 현상: 미세 조정은 FP16/BF16 텐서 코어에 부하를 주며 (FLOPS 제한); 대형 언어 모델의 서빙은 메모리 대역폭에 부하를 주며 (대역폭 제한); HPC 스타일 시뮬레이션은 FP32에 부하를 줍니다 (역시 FLOPS 제한). NVIDIA GeForce RTX 4080 SUPER는 해당 세 가지를 모두 그 세대에 맞게 능숙하게 처리합니다. 작업 부하가 한 클래스에 치우친 경우, 합성 최고치 수치에 의존하기보다는 해당 작업 부하로 벤치마크하는 것이 좋습니다.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4080 SUPER page.