BroadRouter
Начать

GPU-час (GPU-hour)

Обновлено

GPU-час — это использование одного графического процессора в течение одного часа. Облачные провайдеры тарифицируют арендованные GPU-инстансы почасово или посекундно, а исследователи в GPU-часах указывают, сколько вычислений потребовала задача. Вы платите за время машины независимо от того, загружена она или нет.

Также называют: GPU-час, GPU-часы, GPU-часов, час GPU, аренда GPU почасово, стоимость GPU в час, GPU-hour, GPU hours, GPU-hours, GPU instance hour, GPU rental hour

GPU-час — это единица, в которой вы платите, когда арендуете оборудование. API с оплатой за токены его скрывает, а при собственном хостинге модели из него состоит весь счёт.

Как это работает

Облачные провайдеры назначают цену GPU-инстансов за час, а измеряют точнее. На странице AWS о ценах on-demand сказано, что оплата идёт “per instance-hour consumed” (перевод: «за каждый использованный инстанс-час»), а неполные часы на Linux тарифицируются посекундно с минимумом 60 секунд. Google Cloud берёт за “all vCPUs, GPUs, and GB of memory” (перевод: «все vCPU, GPU и гигабайты памяти») минимум 1 минуту, а затем шагами по 1 секунде. Инстанс с 8 GPU, проработавший 3 часа, — это 24 GPU-часа.

Счётчик идёт, пока инстанс запущен, а не пока он приносит пользу. Простаивающий в три часа ночи GPU стоит столько же, сколько загруженный.

Исследователи используют ту же единицу для вычислений. Например, в статье о GPTQ модель на 175 млрд параметров квантизируют “in approximately four GPU hours” (перевод: «примерно за четыре GPU-часа»).

Почему это важно

Чтобы сравнить GPU-час с ценой за токены, пересчитайте через пропускную способность:

cost per 1M output tokens = hourly GPU cost ÷ (tokens per second × 3,600 ÷ 1,000,000)

Подвох — в знаменателе. Пропускная способность зависит от модели, точности, размера батча и того, насколько загружен GPU. Арендованный GPU при нагрузке 20% обходится в пересчёте на токен в пять раз дороже, чем тот же GPU при полной нагрузке. Это главная причина, по которой команды с неравномерным трафиком используют API; см. стоимость собственного хостинга и API.

В BroadNet Inference

BroadNet не сдаёт GPU в почасовую аренду. Она продаёт доступ через API к своим моделям; согласно её Условиям обслуживания, они работают на оборудовании в США, принадлежащем BroadNet или арендованном ею, либо у партнёров по инференсу в США. Два её варианта оплачиваются почасово, и ни один из них не является GPU-часом:

GPU-час (облачная аренда) Почасовой ключ BroadNet Тариф Meteor
Что вы получаете Целый GPU и машину вокруг него Один поток к общей модели Одну сессию с общей моделью
Модель Любая, которая поместится Только BroadNet Gemma 4 VL 26B Только DeepSeek V4.1 Flash
Лимиты (по документации BroadNet) Оборудование 120 запросов/мин, 300,000 токенов/мин, 1 поток Один запрос за раз, без учёта токенов
Цена Устанавливает облако $0.50 в час $1 в час за сессию

Ни с одним из вариантов BroadNet вам не нужно заниматься драйверами, масштабированием или простоем, но и выбрать оборудование или загрузить другую модель нельзя. Если держать почасовой ключ включённым весь месяц, выйдет $0.50 × 24 × 30 = $360.00. Подробнее — в статье о почасовых ключах LLM API и в статье глоссария о тарифе с фиксированной ценой.

Вопросы и ответы

Почасовой ключ BroadNet — это GPU-час?

Нет. Почасовой ключ даёт один час одного потока запросов к общей модели BroadNet Gemma 4 VL 26B с фиксированными лимитами. Вы не получаете ни GPU, ни выбора модели, ни контроля над сервером.

GPU-часы тарифицируются за полный час?

Часто нет. AWS тарифицирует многие инстансы Linux посекундно после минимальных 60 секунд, а Google Cloud берёт за GPU минимум 1 минуту, а затем посекундно. Уточняйте для конкретного типа инстанса и операционной системы.

Как пересчитать цену GPU-часа в цену за токены?

Разделите стоимость часа на число миллионов токенов, которые GPU выдаёт за час, то есть токены в секунду × 3600 ÷ 1 000 000. Измеряйте пропускную способность при реальной нагрузке, потому что простой тоже оплачивается.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity