How well does NVIDIA GeForce RTX 5090 scale across multiple GPUs?
Відповідь
419 FP16 TFLOPS and 1,792 GB/s of memory bandwidth put NVIDIA GeForce RTX 5090 squarely in the class of accelerators targeted at modern transformer workloads. FP32 caps at 104.8 TFLOPS, which still handles most non-AI scientific compute comfortably.
For training from scratch, token throughput roughly tracks FP16 TFLOPS. For production inference on foundation models, throughput tracks bandwidth. Real-world numbers will depend heavily on the framework stack (PyTorch, TensorRT-LLM, vLLM), and can vary 30-50% depending on how aggressively you quantise.
Ready to deploy? Vast.ai has NVIDIA GeForce RTX 5090 from $0.34/hr. Novita AI and RunPod also carry it.
Більше запитань про NVIDIA GeForce RTX 5090
Vast.ai проти Novita AI проти RunPod - порівняння постачальників GPU (Квітень 2026)
Порівняння поруч Vast.ai проти Novita AI проти RunPod. Швидко перегляньте максимальне фінансування, розподіл прибутку, правила ризику, кредитне плече, платформи, інструменти, графіки виплат, варіанти оплати, торгові дозволи та обмеження KYC, щоб звузити список проп-трейдингових компаній. Дані оновлені Квітень 2026.
|
Vast.ai
Миттєві GPU. Прозоре ціноутворення.
|
Novita AI
Платформа AI & Agent Cloud з понад 200 API моделей, GPU-інстансами та безсерверним висновком у масштабі.
|
RunPod
Хмара, створена для штучного інтелекту — розгортайте та масштабовуйте GPU-навантаження від безсерверного виведення до миттєвих багатокористувацьких кластерів за запитом.
|
|
|---|---|---|---|
| Огляд | |||
| Рейтинг Trustpilot | 4.4 | 3.3 | 3.7 |
| Штаб-квартира | United States | United States | United States |
| Тип провайдера | Ринок GPU | Орієнтовано на GPU | Орієнтовано на GPU |
| Найкраще для | Навчання ШІ висновки тонке налаштування Stable Diffusion пакетна обробка дослідження обслуговування LLM генеративний ШІ | Навчання ШІ висновки тонке налаштування генеративний ШІ дослідження обслуговування LLM Stable Diffusion | Навчання ШІ висновок тонке налаштування Stable Diffusion пакетна обробка рендеринг дослідження обслуговування LLM генеративний ШІ |
| Апаратне забезпечення GPU | |||
| Моделі GPU | B200 H200 H100 SXM H100 NVL A100 SXM A100 PCIe RTX 5090 RTX 5080 RTX 5070 Ti RTX 6000 Pro RTX 6000 Ada RTX 4500 Ada RTX A6000 RTX A5000 RTX A4000 L40S L40 A40 A10 RTX 4090 RTX 4080 RTX 4070 Ti RTX 4070 RTX 4060 Ti RTX 4060 RTX 3090 Ti RTX 3090 RTX 3080 Ti RTX 3080 RTX 3070 Ti RTX 3070 Tesla V100 Tesla T4 A2 GTX 1080 | H100 SXM A100 SXM L40S RTX 4090 RTX 6000 Ada RTX 5090 RTX 3090 | B300 B200 H200 H100 SXM H100 PCIe H100 NVL MI300X A100 SXM A100 PCIe RTX 5090 RTX PRO 6000 L40S L40 RTX 6000 Ada RTX 5000 Ada RTX A6000 RTX A5000 RTX 4090 RTX 4080 SUPER RTX 4080 RTX 4070 Ti RTX 3090 Ti RTX 3090 RTX 3080 Ti RTX 3080 RTX 3070 A40 A30 A2 L4 |
| Макс. VRAM (ГБ) | 192 | 80 | 288 |
| Макс. кількість GPU на інстанс | 8 | 8 | 8 |
| Інтерконект | NVLink, InfiniBand | NVLink | NVLink |
| Ціноутворення | |||
| Початкова ціна ($/год) | $0.06/hr | $0.11/hr | $0.06/hr |
| Гранулярність білінгу | За секунду | За секунду | За секунду |
| Spot/Preemptible | Так | Так | Так |
| Резервовані знижки | До 50% (резервування на 1-6 місяців) | Н/д | 15-29% (плани від 1 місяця до 1 року) |
| Безкоштовні кредити | Невеликий тестовий кредит при реєстрації | До $10,000 для стартапів | Бонус від $5 до $500 після першої витрати $10 |
| Плата за вихідні дані | Залежить від хоста ($/ТБ) | Немає (Безкоштовно) | Відсутній (Безкоштовно) |
| Сховище | Залежить від хоста ($/ГБ/год, оплата під час існування інстансу) | Диск контейнера (60 ГБ безкоштовно), томовий диск, мережеві томи | Контейнер/Об’єм ($0.10/ГБ/місяць), Неактивний об’єм ($0.20/ГБ/місяць), Мережеве сховище ($0.07/ГБ/місяць 1ТБ) |
| Інфраструктура | |||
| Регіони | Понад 500 локацій, понад 40 дата-центрів | США, ЄС, Азіатсько-Тихоокеанський регіон, Південна Америка, Африка, Близький Схід (понад 20 локацій) | 31 глобальний регіон |
| SLA часу роботи | Відсутність офіційного SLA (видимі показники надійності хоста) | 99,9% | 99.99% |
| Досвід розробника | |||
| Фреймворки | PyTorch TensorFlow CUDA vLLM ComfyUI | PyTorch TensorFlow CUDA cuDNN TensorRT | PyTorch TensorFlow JAX ONNX CUDA |
| Підтримка Docker | Так | Так | Так |
| Доступ через SSH | Так | Так | Так |
| Jupyter Notebook | Так | Так | Так |
| API / CLI | Так | Так | Так |
| Час налаштування | Секунди | Н/д | Миттєво |
| Підтримка Kubernetes | Ні | Ні | Ні |
| Комерційні умови | |||
| Мінімальне зобов’язання | Відсутні | Відсутні | Відсутній |
| Відповідність стандартам | SOC 2 Тип 2 HIPAA GDPR CCPA | SOC 2 | SOC 2 Тип II |
Vast.ai
Novita AI
RunPod