NVIDIA GeForce RTX 5080 előképzési átbocsátó képesség — mire számíthatok?

Válasz

NVIDIA GeForce RTX 5080 56 TFLOPS FP16-t, 28 TFLOPS FP32-t nyújt, és ezeket 16 GB VRAM-ból táplálja 960 GB/s sebességgel.

Mérőtesztek: vegyes pontosságú LLM tanításnál közel csúcsteljesítményű FLOPS kihasználtságot látunk olyan tömegméreteknél, amelyek beleférnek a VRAM-ba; LLM inferencia általában 5-15%-on belül van az elméleti sávszélesség-korlátozott plafonnak az autoregresszív dekódolásnál; a diffúziós modellek mutatják a legnagyobb ugrást a régebbi gyorsítókhoz képest, ahol a gyorsabb figyelem-kernel-ek a nyers számítási előnyökkel együtt halmozódnak.

The NVIDIA GeForce RTX 5080 page has the complete datasheet and side-by-side comparisons.