À quelle génération appartient NVIDIA GeForce RTX 3090 Ti ?

Réponse

Version courte de la fiche technique NVIDIA GeForce RTX 3090 Ti : 24 Go GDDR6X, 1,008 Go/s, 40 TFLOPS FP16, 20 TFLOPS FP32, Ampere (2022), 450W.

Version longue : la carte est optimisée pour la multiplication matricielle en précision mixte sur de grands tenseurs, ce qui correspond exactement aux exigences de l'entraînement et de l'inférence en production des transformateurs. La bande passante est suffisamment généreuse pour éviter les blocages lors des opérations d'attention, et la capacité VRAM couvre les tailles de modèles modernes sans nécessiter de déchargement vers la mémoire CPU.

Review full specs and related comparisons on the NVIDIA GeForce RTX 3090 Ti page.