Fiche technique complète de NVIDIA GeForce RTX 4080 — les spécifications importantes pour le deep learning

Réponse

NVIDIA GeForce RTX 4080 est une carte de 2022 génération Ada Lovelace avec 16 Go de mémoire GDDR6X et une bande passante de 717 Go/s. Le calcul atteint un pic à 48.7 TFLOPS FP16 et 24.4 TFLOPS FP32 ; le TDP est de 320W.

L'association VRAM/bande passante est la caractéristique déterminante pour le travail en apprentissage automatique — elle détermine quelles tailles de modèles sont accessibles et à quel point la carte peut être sollicitée lors de l'inférence en production. La consommation d'énergie et les exigences de refroidissement font que la plupart des déploiements NVIDIA GeForce RTX 4080 se trouvent dans des centres de données plutôt que dans des stations de travail, ce qui explique pourquoi la plupart des accès NVIDIA GeForce RTX 4080 se font en pratique via le cloud.

Check the NVIDIA GeForce RTX 4080 page for complete specifications and related GPU matchups.