AI Inference용 최고의 클라우드 GPU — May 2026

서비스에 최적화된 클라우드 GPU — 달러당 높은 처리량, 낮은 지연 시간, 광범위한 프레임워크 지원.

5월 2026 업데이트됨 38개 GPU 모델 표시 중 inference에 최적
AMD 288 GB
MI350X
HBM3e CDNA 4
VRAM 288 GB
AMD 256 GB
MI325X
HBM3e CDNA 3 $2.00/hr
VRAM 256 GB
NVIDIA 192 GB
B200
HBM3e Blackwell $1.99/hr
VRAM 192 GB
NVIDIA 192 GB
B100
HBM3e Blackwell
VRAM 192 GB
AMD 192 GB
MI300X
HBM3 CDNA 3 $1.85/hr
VRAM 192 GB
NVIDIA 141 GB
H200 SXM
HBM3e Hopper $2.05/hr
VRAM 141 GB
NVIDIA 80 GB
A100 SXM (80GB)
HBM2e Ampere $1.10/hr
VRAM 80 GB
NVIDIA 64 GB
A16
GDDR6 Ampere $0.47/hr
VRAM 64 GB
NVIDIA 48 GB
L40S
GDDR6 Ada Lovelace $0.55/hr
VRAM 48 GB
NVIDIA 48 GB
L40
GDDR6 Ada Lovelace
VRAM 48 GB
NVIDIA 48 GB
A40
GDDR6 Ampere $0.30/hr
VRAM 48 GB
NVIDIA 40 GB
A100 SXM (40GB)
HBM2e Ampere $0.80/hr
VRAM 40 GB
NVIDIA 24 GB
A30
HBM2e Ampere $0.25/hr
VRAM 24 GB
NVIDIA 24 GB
L4
GDDR6 Ada Lovelace $0.39/hr
VRAM 24 GB
NVIDIA 24 GB
A10G
GDDR6 Ampere
VRAM 24 GB
NVIDIA 16 GB
V100
HBM2 Volta $0.13/hr
VRAM 16 GB
NVIDIA 16 GB
T4
GDDR6 Turing $0.08/hr
VRAM 16 GB
NVIDIA 16 GB
A2
GDDR6 Ampere $0.22/hr
VRAM 16 GB
NVIDIA 8 GB
P4
GDDR5 Pascal $0.16/hr
VRAM 8 GB
NVIDIA 48 GB
RTX 6000 Ada
GDDR6 Ada Lovelace $0.47/hr
VRAM 48 GB
NVIDIA 48 GB
RTX A6000
GDDR6 Ampere $0.30/hr
VRAM 48 GB
NVIDIA 32 GB
RTX 5000 Ada
GDDR6 Ada Lovelace
VRAM 32 GB
NVIDIA 32 GB
RTX 5090
GDDR7 Blackwell $0.34/hr
VRAM 32 GB
NVIDIA 24 GB
RTX 4090
GDDR6X Ada Lovelace $0.28/hr
VRAM 24 GB
NVIDIA 24 GB
RTX 3090
GDDR6X Ampere $0.12/hr
VRAM 24 GB
NVIDIA 16 GB
RTX 5080
GDDR7 Blackwell
VRAM 16 GB
NVIDIA 16 GB
RTX 4080 SUPER
GDDR6X Ada Lovelace
VRAM 16 GB
NVIDIA 16 GB
RTX 4080
GDDR6X Ada Lovelace
VRAM 16 GB
NVIDIA 16 GB
RTX 5070 Ti
GDDR7 Blackwell
VRAM 16 GB
NVIDIA 16 GB
RTX 4060 Ti
GDDR6 Ada Lovelace
VRAM 16 GB
NVIDIA 12 GB
RTX 4070 Ti
GDDR6X Ada Lovelace
VRAM 12 GB
NVIDIA 12 GB
RTX 3080 Ti
GDDR6X Ampere
VRAM 12 GB
NVIDIA 12 GB
RTX 4070
GDDR6X Ada Lovelace
VRAM 12 GB
NVIDIA 10 GB
RTX 3080
GDDR6X Ampere
VRAM 10 GB
NVIDIA 8 GB
RTX 3070 Ti
GDDR6X Ampere
VRAM 8 GB
NVIDIA 8 GB
RTX 3070
GDDR6 Ampere
VRAM 8 GB
NVIDIA 8 GB
RTX 4060
GDDR6 Ada Lovelace
VRAM 8 GB
NVIDIA 8 GB
GTX 1080
GDDR5X Pascal
VRAM 8 GB

MI350X 대 MI325X 대 B200 — 이 가이드의 주요 추천

MI350X vs MI325X vs B200
MI350X
CDNA 4 · 288 GB
MI325X
CDNA 3 · 256 GB
B200
블랙웰 · 192 GB
사양
제조사 AMD AMD NVIDIA
아키텍처 CDNA 4 CDNA 3 블랙웰
VRAM 288 GB HBM3e 256 GB HBM3e 192 GB HBM3e
대역폭 8,000 GB/s 6,000 GB/s 8,000 GB/s
FP16 (텐서) 1,800 TFLOPS 1,307 TFLOPS 2,250 TFLOPS
FP32 72 TFLOPS 163.4 TFLOPS 75 TFLOPS
TDP 1000 W 1000 W 1000 W
출시 연도 2025 2024 2024
세그먼트 데이터 센터 데이터 센터 데이터 센터
클라우드 가격
가장 저렴한 온디맨드 $2.00/hr $1.99/hr
공급업체 1 2 2

나만의 GPU 비교 만들기

이 가이드에서 GPU 2개를 선택하여 나란히 비교하세요.

팁: GPU 비교는 2개씩 진행됩니다. 정확히 2개를 선택하세요 — 선택하지 않으면 이 가이드 상위 2개를 자동으로 엽니다.