NVIDIA GeForce RTX 3070 Ti 微调速度是否比 A100 快？
答案
NVIDIA GeForce RTX 3070 Ti 的原始计算峰值为 21.7 FP16 TFLOPS 和 10.8 FP32 TFLOPS，内存带宽为 608 GB/s，供给计算单元。Ampere 架构配备针对 BF16/FP16 / FP8 混合精度优化的张量核心——这些格式对现代变换器尤为重要。
实际模型训练吞吐量在大批量时接近理论峰值；小批量受内存带宽限制。低延迟推理时，像 Llama 70B 这样的变换器令牌处理速度高度依赖量化策略——FP8/INT8 可解锁计算上限，FP16 受带宽限制。
Review full specs and related comparisons on the NVIDIA GeForce RTX 3070 Ti page.