Legjobb 24+ GB VRAM-mal rendelkező felhő GPU-k — May 2026
A 24 GB vagy több VRAM-mal rendelkező GPU-k lehetővé teszik a 13B-30B modell inferenciáját, nagyobb batch méreteket és hosszabb kontextusablakokat.
NVIDIA
384 GB
GB200 Superchip
HBM3e
Blackwell
NVIDIA
288 GB
B300
HBM3e
Blackwell Ultra
AMD
288 GB
MI350X
HBM3e
CDNA 4
AMD
288 GB
MI355X
HBM3e
CDNA 4
$2.59/hr
AMD
256 GB
MI325X
HBM3e
CDNA 3
$2.00/hr
NVIDIA
192 GB
B200
HBM3e
Blackwell
$1.99/hr
NVIDIA
192 GB
B100
HBM3e
Blackwell
AMD
192 GB
MI300X
HBM3
CDNA 3
$1.85/hr
NVIDIA
141 GB
H200 SXM
HBM3e
Hopper
$2.05/hr
NVIDIA
96 GB
GH200 Superchip
HBM3
Hopper
NVIDIA
80 GB
H100 SXM
HBM3
Hopper
$1.57/hr
NVIDIA
80 GB
A100 SXM (80GB)
HBM2e
Ampere
$1.10/hr
NVIDIA
64 GB
A16
GDDR6
Ampere
$0.47/hr
NVIDIA
48 GB
L40S
GDDR6
Ada Lovelace
$0.55/hr
NVIDIA
48 GB
L40
GDDR6
Ada Lovelace
NVIDIA
48 GB
A40
GDDR6
Ampere
$0.30/hr
NVIDIA
40 GB
A100 SXM (40GB)
HBM2e
Ampere
$0.80/hr
NVIDIA
24 GB
A30
HBM2e
Ampere
$0.25/hr
NVIDIA
24 GB
L4
GDDR6
Ada Lovelace
$0.39/hr
NVIDIA
24 GB
A10G
GDDR6
Ampere
NVIDIA
96 GB
RTX PRO 6000
GDDR7
Blackwell
$1.71/hr
NVIDIA
48 GB
RTX 6000 Ada
GDDR6
Ada Lovelace
$0.47/hr
NVIDIA
48 GB
RTX A6000
GDDR6
Ampere
$0.30/hr
NVIDIA
32 GB
RTX 5000 Ada
GDDR6
Ada Lovelace
NVIDIA
24 GB
RTX A5000
GDDR6
Ampere
NVIDIA
24 GB
RTX 4500 Ada
GDDR6
Ada Lovelace
NVIDIA
32 GB
RTX 5090
GDDR7
Blackwell
$0.34/hr
NVIDIA
24 GB
RTX 4090
GDDR6X
Ada Lovelace
$0.28/hr
NVIDIA
24 GB
RTX 3090
GDDR6X
Ampere
$0.12/hr
NVIDIA
24 GB
RTX 3090 Ti
GDDR6X
Ampere
GB200 Superchip vs B300 vs MI350X — a legjobb választások ebből az útmutatóból
|
GB200 Superchip
Blackwell · 384 GB
|
B300
Blackwell Ultra · 288 GB
|
MI350X
CDNA 4 · 288 GB
|
|
|---|---|---|---|
| Műszaki adatok | |||
| Gyártó | NVIDIA | NVIDIA | AMD |
| Architektúra | Blackwell | Blackwell Ultra | CDNA 4 |
| VRAM | 384 GB HBM3e | 288 GB HBM3e | 288 GB HBM3e |
| Sávszélesség | 16,000 GB/s | 8,000 GB/s | 8,000 GB/s |
| FP16 (Tensor) | 4,500 TFLOPS | 2,250 TFLOPS | 1,800 TFLOPS |
| FP32 | 150 TFLOPS | 75 TFLOPS | 72 TFLOPS |
| TDP | 2700 W | 1400 W | 1000 W |
| Megjelenési Év | 2024 | 2025 | 2025 |
| Szegmens | Adatközpont | Adatközpont | Adatközpont |
| Felhő árak | |||
| Legolcsóbb Azonnali | — | — | — |
| Szolgáltatók | 0 | 1 | 1 |
Készítse el saját GPU összehasonlítását
Válasszon ki bármely 2 GPU-t ebből az útmutatóból, és nyissa meg őket egymás mellett.
Tipp: A GPU összehasonlítások párokban futnak. Pontosan 2-t válasszon — ha nem választ, a legjobb 2-t nyitjuk meg ebből az útmutatóból.