Какое поколение у NVIDIA GeForce RTX 3090 Ti?

Ответ

Краткая версия спецификации NVIDIA GeForce RTX 3090 Ti: 24 ГБ GDDR6X, 1,008 ГБ/с, 40 TFLOPS FP16, 20 TFLOPS FP32, Ampere (2022), 450 Вт.

Полная версия: карта оптимизирована для матричного умножения с переменной точностью на больших тензорах, что именно требуется для обучения трансформеров и производственного инференса. Пропускная способность достаточно велика, чтобы избежать задержек при операциях внимания, а объём видеопамяти покрывает современные размеры моделей без необходимости выгрузки в память CPU.

Review full specs and related comparisons on the NVIDIA GeForce RTX 3090 Ti page.