How fast is AMD Instinct MI350X for ML?
Ответ
AMD Instinct MI350X hits 1,800 TFLOPS of FP16 compute with 8,000 GB/s of memory bandwidth and 288 GB of VRAM. FP32 peaks at 72 TFLOPS.
Those figures place AMD Instinct MI350X in a useful performance band for generative AI work: strong enough to pre-training mid-to-large models in reasonable time, with enough bandwidth to keep real-time serving latency low. Actual tokens-per-second or images-per-second varies 2x depending on framework, quantisation, and model size — always benchmark with the exact stack you plan to ship.
See the AMD Instinct MI350X page for the full spec sheet and current provider list.
Дополнительные FAQ по AMD Instinct MI350X
Обзор провайдера GPU DigitalOcean и ключевые факты (Апрель 2026)
Краткая информация о DigitalOcean: максимальное финансирование, распределение прибыли, правила просадки, кредитное плечо, инструменты, график выплат, способы оплаты, торговые разрешения и KYC. Данные проверены Апрель 2026.
|
DigitalOcean
Простое, масштабируемое облако GPU для ИИ/МО
|
|
|---|---|
| Обзор | |
| Рейтинг Trustpilot | 4.6 |
| Штаб-квартира | United States |
| Тип провайдера | Н/Д |
| Лучшее для | Обучение ИИ вывод дообучение развёртывание LLM обслуживание LLM компьютерное зрение стартапы генеративный ИИ исследования |
| Аппаратное обеспечение GPU | |
| Модели GPU | RTX 4000 Ada RTX 6000 Ada L40S MI300X H100 SXM H200 |
| Макс. объём видеопамяти (ГБ) | 192 |
| Макс. количество GPU на инстанс | 8 |
| Межсоединение | NVLink |
| Ценообразование | |
| Стартовая цена ($/час) | $0.76/hr |
| Точность выставления счетов | Оплата посекундно |
| Спотовые / прерываемые инстансы | Нет |
| Скидки на резервацию | Н/Д |
| Бесплатные кредиты | Бесплатный кредит $200 на 60 дней |
| Плата за исходящий трафик | Нет (включено в тариф) |
| Хранилище | 500-720 ГиБ NVMe загрузочного диска (включено), 5 ТиБ NVMe scratch на больших конфигурациях, тома по $0.10/ГиБ/мес |
| Инфраструктура | |
| Регионы | Нью-Йорк (NYC2), Торонто (TOR1), Атланта (ATL1), Ричмонд (RIC1), Амстердам (AMS3) |
| SLA времени безотказной работы | 99% |
| Опыт разработчика | |
| Фреймворки | PyTorch TensorFlow Jupyter Miniconda CUDA ROCm Hugging Face |
| Поддержка Docker | Да |
| SSH-доступ | Да |
| Jupyter ноутбуки | Да |
| API / CLI | Да |
| Время настройки | Минуты |
| Поддержка Kubernetes | Да |
| Коммерческие условия | |
| Минимальное обязательство | Нет |
| Соответствие требованиям | SOC 2 Type II SOC 3 HIPAA (с BAA) CSA STAR Уровень 1 |
DigitalOcean