¿Es NVIDIA GeForce RTX 3080 Ti una tarjeta para centros de datos, profesional o de consumo?

Respuesta

NVIDIA GeForce RTX 3080 Ti está construido sobre la arquitectura Ampere y viene con 12 GB de memoria GDDR6X a 912 GB/s de ancho de banda. Lanzada en 2021, la tarjeta ofrece 34.1 TFLOPS FP16 y 17 TFLOPS FP32 con un TDP de 350W.

Para los investigadores en aprendizaje automático, esos números se traducen en varios límites prácticos: el techo de VRAM dicta los pesos del modelo de lenguaje grande más grandes que puedes cargar (y el tamaño máximo de lote a una longitud de secuencia dada), mientras que el ancho de banda de memoria establece el límite superior para la inferencia con mucha atención. El rendimiento de cómputo importa más para multiplicaciones densas de matrices: preentrenamiento, preentrenamiento con lotes grandes y difusión.

Check the NVIDIA GeForce RTX 3080 Ti page for complete specifications and related GPU matchups.