GPU-час — это единица, в которой вы платите, когда арендуете оборудование. API с оплатой за токены его скрывает, а при собственном хостинге модели из него состоит весь счёт.
Как это работает
Облачные провайдеры назначают цену GPU-инстансов за час, а измеряют точнее. На странице AWS о ценах on-demand сказано, что оплата идёт “per instance-hour consumed” (перевод: «за каждый использованный инстанс-час»), а неполные часы на Linux тарифицируются посекундно с минимумом 60 секунд. Google Cloud берёт за “all vCPUs, GPUs, and GB of memory” (перевод: «все vCPU, GPU и гигабайты памяти») минимум 1 минуту, а затем шагами по 1 секунде. Инстанс с 8 GPU, проработавший 3 часа, — это 24 GPU-часа.
Счётчик идёт, пока инстанс запущен, а не пока он приносит пользу. Простаивающий в три часа ночи GPU стоит столько же, сколько загруженный.
Исследователи используют ту же единицу для вычислений. Например, в статье о GPTQ модель на 175 млрд параметров квантизируют “in approximately four GPU hours” (перевод: «примерно за четыре GPU-часа»).
Почему это важно
Чтобы сравнить GPU-час с ценой за токены, пересчитайте через пропускную способность:
cost per 1M output tokens = hourly GPU cost ÷ (tokens per second × 3,600 ÷ 1,000,000)
Подвох — в знаменателе. Пропускная способность зависит от модели, точности, размера батча и того, насколько загружен GPU. Арендованный GPU при нагрузке 20% обходится в пересчёте на токен в пять раз дороже, чем тот же GPU при полной нагрузке. Это главная причина, по которой команды с неравномерным трафиком используют API; см. стоимость собственного хостинга и API.
В BroadNet Inference
BroadNet не сдаёт GPU в почасовую аренду. Она продаёт доступ через API к своим моделям; согласно её Условиям обслуживания, они работают на оборудовании в США, принадлежащем BroadNet или арендованном ею, либо у партнёров по инференсу в США. Два её варианта оплачиваются почасово, и ни один из них не является GPU-часом:
| GPU-час (облачная аренда) | Почасовой ключ BroadNet | Тариф Meteor | |
|---|---|---|---|
| Что вы получаете | Целый GPU и машину вокруг него | Один поток к общей модели | Одну сессию с общей моделью |
| Модель | Любая, которая поместится | Только BroadNet Gemma 4 VL 26B | Только DeepSeek V4.1 Flash |
| Лимиты (по документации BroadNet) | Оборудование | 120 запросов/мин, 300,000 токенов/мин, 1 поток | Один запрос за раз, без учёта токенов |
| Цена | Устанавливает облако | $0.50 в час | $1 в час за сессию |
Ни с одним из вариантов BroadNet вам не нужно заниматься драйверами, масштабированием или простоем, но и выбрать оборудование или загрузить другую модель нельзя. Если держать почасовой ключ включённым весь месяц, выйдет $0.50 × 24 × 30 = $360.00. Подробнее — в статье о почасовых ключах LLM API и в статье глоссария о тарифе с фиксированной ценой.