How fast is AMD Instinct MI350X for ML?
Відповідь
AMD Instinct MI350X hits 1,800 TFLOPS of FP16 compute with 8,000 GB/s of memory bandwidth and 288 GB of VRAM. FP32 peaks at 72 TFLOPS.
Those figures place AMD Instinct MI350X in a useful performance band for generative AI work: strong enough to pre-training mid-to-large models in reasonable time, with enough bandwidth to keep real-time serving latency low. Actual tokens-per-second or images-per-second varies 2x depending on framework, quantisation, and model size — always benchmark with the exact stack you plan to ship.
See the AMD Instinct MI350X page for the full spec sheet and current provider list.
Більше запитань про AMD Instinct MI350X
Огляд постачальника GPU DigitalOcean та ключові факти (Квітень 2026)
Знімок DigitalOcean: максимальне фінансування, розподіл прибутку, правила збитків, кредитне плече, інструменти, графік виплат, методи оплати, торгові дозволи та KYC. Дані перевірені Квітень 2026.
|
DigitalOcean
Простий, масштабований хмарний GPU для ШІ/МЛ
|
|
|---|---|
| Огляд | |
| Рейтинг Trustpilot | 4.6 |
| Штаб-квартира | United States |
| Тип провайдера | Н/д |
| Найкраще для | Навчання ШІ висновки тонке налаштування розгортання LLM обслуговування LLM комп’ютерний зір стартапи генеративний ШІ дослідження |
| Апаратне забезпечення GPU | |
| Моделі GPU | RTX 4000 Ada RTX 6000 Ada L40S MI300X H100 SXM H200 |
| Макс. VRAM (ГБ) | 192 |
| Макс. кількість GPU на інстанс | 8 |
| Інтерконект | NVLink |
| Ціноутворення | |
| Початкова ціна ($/год) | $0.76/hr |
| Гранулярність білінгу | За секунду |
| Spot/Preemptible | Ні |
| Резервовані знижки | Н/д |
| Безкоштовні кредити | $200 безкоштовного кредиту на 60 днів |
| Плата за вихідні дані | Відсутні (включено в план) |
| Сховище | 500-720 ГіБ NVMe для завантаження (включено), 5 ТіБ NVMe для тимчасових файлів у більших конфігураціях, томи за $0.10/ГіБ/місяць |
| Інфраструктура | |
| Регіони | Нью-Йорк (NYC2), Торонто (TOR1), Атланта (ATL1), Річмонд (RIC1), Амстердам (AMS3) |
| SLA часу роботи | 99% |
| Досвід розробника | |
| Фреймворки | PyTorch TensorFlow Jupyter Miniconda CUDA ROCm Hugging Face |
| Підтримка Docker | Так |
| Доступ через SSH | Так |
| Jupyter Notebook | Так |
| API / CLI | Так |
| Час налаштування | Хвилини |
| Підтримка Kubernetes | Так |
| Комерційні умови | |
| Мінімальне зобов’язання | Відсутні |
| Відповідність стандартам | SOC 2 Тип II SOC 3 HIPAA (з BAA) CSA STAR Рівень 1 |
DigitalOcean