Постачальники хмарних GPU з оплатою за секунду

Що насправді означає погодинна оплата за секунду для оренди хмарних GPU

Погодинна оплата за секунду означає, що провайдер вимірює ваш GPU-екземпляр у секундах і стягує плату лише за ті секунди, коли екземпляр працює, а не округлює до наступної повної години або стягує фіксовану погодинну плату. Коли ви запускаєте екземпляр і зупиняєте його через 23 хвилини, ви сплачуєте приблизно за 1380 секунд обчислень, а не за повну годину. Основна рекламована ставка зазвичай все ще виражається як ціна за GPU-годину, але лічильник працює значно точніше, тому різниця між тим, що ви використовуєте, і тим, що ви сплачуєте, зводиться майже до нуля.

Це звучить як незначна бухгалтерська деталь, але суттєво змінює економіку переривчастих, автоматизованих та експериментальних робочих навантажень. Наведений вище список фільтрує саме тих провайдерів, які виставляють рахунок з такою точністю, що є ключовою відмінністю платформи, створеної для коротких, частих завдань, від платформи, оптимізованої для довготривалих, стабільних екземплярів.

Оплата за секунду проти оплати за годину та за хвилину

Точність оплати розташована на спектрі, і різниці накопичуються в масштабі:

• Оплата за годину з округленням вгору: завдання тривалістю 90 секунд і 59 хвилин коштують повну годину. Це найгірший варіант для коротких завдань і карає за часті цикли запуску/зупинки.
• Оплата за хвилину: краще, але виклик inference на 5 секунд або запуск контейнера на 20 секунд все одно округлюється до 60 секунд, що накопичується при тисячах викликів.
• Оплата за секунду: ви сплачуєте за фактичний час роботи за годинником, часто з невеликою мінімальною платою (зазвичай перша хвилина), щоб запобігти зловживанням частими перезапусками.

Для одного тривалого тренування точність майже не має значення — похибка округлення для 40-годинного завдання статистично незначуща. Для автоскейлінгового флоту inference, який запускає і зупиняє екземпляри сотні разів на день, або для пошуку гіперпараметрів, що постійно запускає і знищує контейнери, погодинна оплата за секунду може бути різницею між оплатою за використані обчислення і оплатою за простої через округлення.

Які робочі процеси отримують найбільшу вигоду

Оплата за секунду винагороджує все, що є сплесковим, автоматизованим або короткочасним:

• Сплесковий inference і масштабування в стилі serverless: робочі навантаження, які масштабують GPU-ресурси відповідно до обсягу запитів і звільняють їх протягом кількох хвилин, отримують найбільшу економію, оскільки усувається округлення простою при кожній події масштабування.
• CI/CD та автоматизоване тестування: тестові набори або завдання валідації моделей на GPU, що працюють кілька хвилин на кожен коміт, уникають оплати повних годинних блоків при кожному запуску конвеєра.
• Пошук гіперпараметрів та експерименти: запуск десятків коротких проб, раннє припинення невдалих і збереження лише перспективних конфігурацій значно дешевший, коли кожна припинена проба коштує лише за фактичний час роботи.
• Інтерактивні сесії в блокнотах: дослідник, який запускає GPU для десятихвилинної сесії налагодження і зупиняє його, сплачує за десять хвилин, а не за годину.
• Пакетні завдання з непередбачуваною тривалістю: рендеринг кадрів, запуск пакетів ембедингів або транскодування кліпів, де час виконання варіюється від секунд до хвилин на завдання.

Навпаки, якщо ви тримаєте GPU заблокованим для багатоденного безперервного тренування, точність оплати майже не має значення, і слід значно більше враховувати інші фактори — інтерконект, VRAM, знижки на spot-інстанси та зберігання.

Компроміси та дрібний шрифт

Оплата за секунду майже завжди є позитивною, але вона не існує ізольовано, і кілька деталей визначають, чи є ця перевага реальною:

• Мінімальна плата: багато провайдерів застосовують мінімальний платний період, часто перші 60 секунд. Якщо ваші завдання тривають менше хвилини, цей мінімум має значення, тому перевірте, чи застосовується мінімум і скільки він триває.
• Що включає годинник: підтвердіть, чи починається оплата з моменту створення екземпляра, запуску або коли GPU готовий до роботи. Повільний холодний старт, завантаження образів і ініціалізація драйверів можуть потрапляти у вимірюваний інтервал, тому швидка ставка з повільним запуском може знівелювати економію.
• Плата за зберігання та IP: обчислення GPU можуть припиняти нарахування плати відразу після завершення роботи, але підключені постійні томи, знімки та зарезервовані IP-адреси часто продовжують нараховувати плату. Оплата за секунду не робить зберігання безкоштовним.
• Вихідний трафік та передача даних: зазвичай стягуються за обсягом, а не за часом, і не залежать від точності оплати — це окремий пункт для порівняння.
• Цінова політика spot і переривних інстансів: оплата за секунду природно поєднується з переривними інстансами, оскільки ви не караєтеся за вузол, який живе лише кілька хвилин до вилучення. Разом вони підходять для відмовостійких, з контрольними точками робіт.

Що перевірити у наведеному вище порівнянні

При читанні списку розглядайте оплату за секунду як одну з кількох осей, а не як єдиний вирішальний фактор:

1. Підтвердіть, що точність дійсно за секунду, а не за хвилину, подану в маркетингових матеріалах як “по секунді”.
2. Знайдіть мінімальний платний період і момент початку вимірювання.
3. Оцініть типову тривалість ваших завдань і частоту запусків/зупинок — чим коротші і частіші завдання, тим більше вигода від точності.
4. Відокремте оплату обчислень від зберігання, мережі та плати за простої ресурси, які точність не покриває.
5. Перевірте відповідність моделі GPU та доступність on-demand і spot, щоб не оптимізувати секунди на обладнанні, яке не підходить для вашого навантаження.

Поточні тарифи змінюються постійно і залежать від регіону та типу екземпляра, тому використовуйте наведене вище порівняння для актуальних цін за секунду, а не будь-яких фіксованих цифр.

Поширені запитання

Чи робить оплата за секунду GPU суттєво дешевшими?

Вона знижує ваші ефективні витрати лише настільки, наскільки ваші завдання короткі або часто перезапускаються. Для довготривалих безперервних запусків економія порівняно з оплатою за годину незначна; для сплескових, автоскейлінгових або експериментальних навантажень з багатьма короткими екземплярами усунення округлення може реально зменшити ваш рахунок.

Чи зазвичай існує мінімальна плата при оплаті за секунду?

Часто так. Багато провайдерів стягують мінімальний період — зазвичай першу хвилину — навіть якщо екземпляр працює лише кілька секунд. Це зроблено для запобігання зловживанням частими перезапусками. Якщо ваші завдання тривають менше хвилини, підтвердіть мінімум, перш ніж припускати, що сплачуєте лише за фактичні секунди.

Коли починається і закінчується лічильник за секунду?

Це залежить. Деякі провайдери починають вимірювання з моменту створення екземпляра, інші — при запуску або коли GPU готовий до роботи. Час холодного старту, завантаження образів і налаштування драйвера можуть потрапляти у платний інтервал, тому швидка ставка з повільним запуском може бути гіршою за трохи вищу ставку з швидким стартом.

Чи поширюється оплата за секунду на зберігання та передачу даних?

Ні. Точність за секунду зазвичай охоплює лише обчислення GPU. Постійні томи, знімки, зарезервовані IP-адреси та вихідний трафік зазвичай оплачуються окремо — за ємність або обсяг — і продовжують нараховуватися навіть після завершення роботи GPU-екземпляра.