Jakou paměť používá NVIDIA GeForce RTX 4060 Ti (HBM, GDDR)?

Odpověď

NVIDIA GeForce RTX 4060 Ti obsahuje 16 GB GDDR6 s 288 GB/s propustností, poskytuje 22.1 TFLOPS výpočetního výkonu FP16 a pracuje při 165W. Je založena na architektuře Ada Lovelace, která byla představena v 2023.

Pro většinu případů použití AI to znamená tři věci: 1) jak velký model lze načíst; 2) jak rychle běží pozornost (omezená propustností); 3) jak rychle běží operace náročné na maticové násobení (omezené výpočetním výkonem). NVIDIA GeForce RTX 4060 Ti se obvykle nachází v rovnovážném bodě ve všech třech aspektech — proto se často objevuje v cloudových katalozích určených pro týmy ML.

Review full specs and related comparisons on the NVIDIA GeForce RTX 4060 Ti page.