Облачные провайдеры GPU с почасовой тарификацией

Что на самом деле означает почасовая оплата по секундам для аренды облачных GPU

Почасовая оплата по секундам означает, что провайдер измеряет время работы вашего GPU-инстанса с точностью до одной секунды и взимает плату только за те секунды, в течение которых инстанс работает, а не округляет время до следующего полного часа или взимает фиксированную почасовую ставку. Когда вы запускаете инстанс и завершаете его через 23 минуты, вы платите примерно за 1 380 секунд вычислений, а не за полный час. Базовая рекламируемая ставка обычно всё ещё выражается в цене за GPU-час, но счётчик работает гораздо точнее, поэтому разрыв между тем, что вы используете, и тем, что вы платите, сводится к почти нулю.

Это звучит как мелкая бухгалтерская деталь, но существенно меняет экономику прерывистых, автоматизированных и экспериментальных нагрузок. Приведённый выше список фильтрует именно провайдеров, которые выставляют счета с такой точностью, что является критерием, отделяющим платформу, построенную для коротких и частых задач, от платформы, оптимизированной для долгосрочных, стабильных инстансов.

Оплата по секундам против оплаты по часам и минутам

Точность выставления счетов находится на спектре, и различия накапливаются в масштабе:

• Почасовая, с округлением вверх: задача длительностью 90 секунд и задача длительностью 59 минут обе стоят полный час. Это худший вариант для коротких задач и наказывает за частые циклы запуска/остановки.
• Поминутная: лучше, но вызов инференса на 5 секунд или запуск контейнера на 20 секунд всё равно округляется до 60 секунд, что накапливается при тысячах вызовов.
• Почасовая по секундам: вы платите за фактическое время по часам, часто с небольшой минимальной оплатой (обычно первая минута), чтобы предотвратить злоупотребления частыми запусками и остановками.

Для одного длительного обучения точность почти не имеет значения — ошибка округления при 40-часовой задаче статистически незначительна. Для автоскейлингового флота инференса, который запускает и останавливает инстансы сотни раз в день, или для перебора гиперпараметров, который постоянно запускает и убивает контейнеры, почасовая оплата по секундам может быть разницей между оплатой за фактически использованные вычисления и оплатой за простой из-за округления.

Какие рабочие процессы получают наибольшую выгоду

Оплата по секундам выгодна для всего, что является прерывистым, автоматизированным или кратковременным:

• Прерывистый инференс и масштабирование в стиле serverless: нагрузки, которые масштабируют GPU-ёмкость в соответствии с объёмом запросов и освобождают её в течение нескольких минут, получают наибольшую экономию, поскольку простой из-за округления исключён при каждом событии масштабирования.
• CI/CD и автоматизированное тестирование: тестовые наборы с поддержкой GPU или задачи валидации моделей, которые выполняются несколько минут на каждый коммит, избегают оплаты полных часовых блоков при каждом запуске конвейера.
• Поиск гиперпараметров и эксперименты: запуск десятков коротких проб, раннее завершение неудачных и сохранение только перспективных конфигураций обходится гораздо дешевле, когда каждый прерванный пробег стоит только тех секунд, что он фактически работал.
• Интерактивные сессии в ноутбуках: исследователь, который запускает GPU для десятиминутной отладки и завершает работу, платит за десять минут, а не за час.
• Пакетные задачи непредсказуемой длительности: рендеринг кадров, выполнение пакета эмбеддингов или перекодирование клипов, где время выполнения варьируется от секунд до минут на задачу.

С другой стороны, если вы удерживаете GPU занятым в течение нескольких дней непрерывного обучения, точность выставления счетов практически не имеет значения, и следует уделять больше внимания другим факторам — межсоединению, объёму видеопамяти, скидкам на спотовые инстансы и хранилищу.

Компромиссы и мелкий шрифт

Почасовая оплата по секундам почти всегда является преимуществом, но она не существует в изоляции, и несколько деталей определяют, насколько реальна заявленная выгода:

• Минимальная плата: многие провайдеры устанавливают минимальный оплачиваемый период, часто первые 60 секунд. Если ваши задачи короче минуты, этот минимум важен, поэтому проверьте, применяется ли он и какова его длительность.
• Что включает в себя отсчёт времени: уточните, начинается ли оплата с момента выделения инстанса, загрузки системы или момента, когда GPU становится готовым к работе. Медленные холодные старты, загрузка образов и инициализация драйверов могут попадать в оплачиваемый период, поэтому быстрая ставка при медленном запуске может нивелировать экономию.
• Плата за хранилище и IP-адреса: вычисления на GPU могут перестать тарифицироваться сразу после завершения работы, но подключённые постоянные тома, снимки и зарезервированные IP-адреса часто продолжают накапливать плату. Почасовая оплата по секундам не делает хранилище бесплатным.
• Исходящий трафик и передача данных: обычно тарифицируются по объёму, а не по времени, и не зависят от точности тарификации — это отдельная статья расходов для сравнения.
• Спотовые и прерываемые цены: почасовая оплата по секундам естественно сочетается с прерываемыми инстансами, поскольку вы не наказываетесь за узел, который живёт всего несколько минут до возврата. Вместе они подходят для отказоустойчивых задач с контрольными точками.

Что проверить в приведённом выше сравнении

При изучении списка рассматривайте почасовую оплату по секундам как одну из нескольких осей, а не как единственный решающий фактор:

1. Убедитесь, что точность действительно по секундам, а не по минутам, поданной в маркетинговых материалах как “по секундам”.
2. Узнайте минимальный оплачиваемый период и момент начала отсчёта.
3. Оцените типичную длительность ваших задач и частоту запусков/остановок — более точная тарификация оправдана пропорционально тому, насколько коротки и часты ваши задачи.
4. Отделяйте оплату вычислений от оплаты хранилища, сетевых услуг и простоя ресурсов, на которые точность тарификации не влияет.
5. Сопоставьте с моделью GPU и доступностью по запросу или со спотовыми инстансами, чтобы не оптимизировать секунды на неподходящем оборудовании для вашей нагрузки.

Текущие ставки постоянно меняются и зависят от региона и типа инстанса, поэтому используйте приведённое выше сравнение для оценки актуальных цен по секундам, а не фиксированных значений.

Часто задаваемые вопросы

Делает ли почасовая оплата по секундам GPU заметно дешевле?

Она снижает ваши фактические затраты только в той мере, в какой ваши задачи короткие или часто перезапускаются. Для длительных непрерывных запусков экономия по сравнению с почасовой оплатой незначительна; для прерывистых, автоскейлинговых или экспериментальных нагрузок с множеством коротких инстансов устранение округления может привести к реальному снижению счета.

Существует ли обычно минимальная плата при почасовой оплате по секундам?

Часто да. Многие провайдеры выставляют счёт за минимальный период — обычно первую минуту — даже если инстанс работал всего несколько секунд. Это сделано для предотвращения злоупотреблений частыми запусками и остановками. Если ваши задачи короче минуты, уточните минимальный период, прежде чем предполагать оплату за точные секунды.

Когда начинается и заканчивается отсчёт по секундам?

Это зависит. Некоторые провайдеры начинают отсчёт с момента выделения инстанса, другие — с загрузки системы или когда GPU становится готовым к работе. Время холодного старта, загрузка образов и настройка драйверов могут попадать в оплачиваемый период, поэтому быстрая ставка при медленном запуске может быть хуже чуть более высокой ставки с быстрым запуском.

Распространяется ли почасовая оплата по секундам на хранилище и передачу данных?

Нет. Точность по секундам обычно охватывает только вычисления на GPU. Постоянные тома, снимки, зарезервированные IP-адреса и исходящий трафик обычно тарифицируются отдельно — по ёмкости или объёму — и продолжают накапливать плату даже после завершения работы GPU-инстанса.