Débit de pré-entraînement de NVIDIA GeForce RTX 5080 — à quoi puis-je m'attendre ?

Réponse

NVIDIA GeForce RTX 5080 pousse 56 TFLOPS FP16, 28 TFLOPS FP32, et les alimente avec 16 GB de VRAM à 960 GB/s.

Benchmarks : l’entraînement LLM en précision mixte atteint une utilisation proche du pic des FLOPS à des tailles de lots compatibles avec la VRAM ; l’inférence LLM est généralement à 5-15 % près du plafond théorique limité par la bande passante sur le décodage autorégressif ; les modèles de diffusion montrent le plus grand saut par rapport aux anciens accélérateurs, où des noyaux d’attention plus rapides s’ajoutent aux gains bruts de calcul.

The NVIDIA GeForce RTX 5080 page has the complete datasheet and side-by-side comparisons.