Apakah prestasi puncak FP16 NVIDIA GeForce RTX 3070?

Jawapan

Dilancarkan pada 2020, NVIDIA GeForce RTX 3070 adalah pemecut kelas Ampere dengan 8 GB GDDR6, lebar jalur memori 448 GB/s, dan pengiraan FP16 TFLOPS 20.3. FP32 mencapai puncak pada 10.2 TFLOPS dan kad menggunakan sehingga 220W.

Dalam istilah praktikal: cukup VRAM untuk memuatkan model dalam julat parameter ~8B dalam FP16 (lebih besar dengan kuantisasi), cukup lebar jalur untuk mengelakkan lapisan perhatian kekurangan memori, dan cukup pengiraan untuk melatih transformer pada saiz kelompok yang memenuhi pengoptimum moden.

See the NVIDIA GeForce RTX 3070 page for the full spec sheet and comparisons to related GPUs.