Mi NVIDIA GeForce RTX 3070 csúcsteljesítménye FP16-ban?

Válasz

NVIDIA GeForce RTX 3070 2020 jelent meg, egy Ampere osztályú gyorsító 8 GB GDDR6, 448 GB/s memória sávszélességgel és 20.3 FP16 TFLOPS számítási teljesítménnyel. FP32 csúcsa 10.2 TFLOPS, és a kártya akár 220W-ot is fogyaszthat.

Gyakorlati szempontból: elegendő VRAM a ~8 milliárd paraméteres tartományú modellek betöltéséhez FP16-ban (nagyobb kvantálással), elegendő sávszélesség a memória-éhező figyelmi rétegek elkerüléséhez, és elegendő számítási teljesítmény a transzformerek tréningjéhez olyan kötegméretekkel, amelyek telítik a modern optimalizálókat.

See the NVIDIA GeForce RTX 3070 page for the full spec sheet and comparisons to related GPUs.