BroadRouter

Как рассчитать стоимость LLM API до запуска функции

Команда BroadNet Inference · 6 мин чтения · Опубликовано · Обновлено

Чтобы рассчитать стоимость LLM API, моделируйте одно действие пользователя, а не один вызов API: посчитайте вызовы на действие, измерьте входные, кэшированные и выходные токены на вызов на реальных примерах и умножьте на пользователей и действия в месяц. Добавьте рассуждения и повторы и оцените низкий, ожидаемый и высокий сценарии. Наш пример на DeepSeek V4.1 Flash даёт $42.67 в месяц.

Чтобы рассчитать стоимость LLM API до запуска, оценивайте одно действие пользователя, а не один вызов API. Посчитайте вызовы за этим действием, измерьте новый вход, вход из кэша и выход на 20–50 реальных примерах, умножьте на число действий в месяц, затем добавьте рассуждения и повторы. Наш пример с черновиками ответов поддержки на DeepSeek V4.1 Flash даёт $42.67 в месяц.

Это прогноз до запуска для одной функции; когда появятся платящие пользователи, маржу и ценовые уровни разбирает статья стоимость LLM на пользователя в SaaS.

Какая формула у стоимости LLM API?

monthly cost = actions per month × calls per action
             × ( new input tokens × input price
               + cached input tokens × cached price
               + output tokens × output price ) / 1,000,000

То есть: месячная стоимость = действия в месяц × вызовы на действие × (новые входные токены × цена входа + входные токены из кэша × цена кэша + выходные токены × цена выхода) / 1 000 000.

Выходные токены включают рассуждения. Кэшированные токены — это вход, который провайдер использует повторно по более низкой цене. Всё остальное — измерения. Бесплатный калькулятор стоимости LLM API применяет эту формулу к прайсовой цене любой модели.

Как пошагово построить модель затрат?

  1. Назовите единицу работы. «Подготовить черновик ответа в поддержку», «кратко пересказать звонок», «починить падающий тест». Оценивайте её, а не «запрос».
  2. Посчитайте вызовы на действие. Ответ с поиском может быть одним вызовом. Агент, который планирует, редактирует и проверяет, — десятью. Добавьте долю повторов: тайм-аут, который вы повторяете, оплачивается снова.
  3. Измерьте токены на вызов на реальных примерах. Возьмите 20–50 реалистичных входных данных, а не вылизанные демо. Для первой грубой оценки, ещё до вызова API, вставьте их в счётчик токенов. Читайте usage.prompt_tokens, usage.prompt_tokens_details.cached_tokens и usage.completion_tokens из каждого ответа. При стриминге задайте stream_options: {"include_usage": true}; руководство по стримингу показывает, где эти данные появляются.
  4. Разделите новый вход и вход из кэша. Системный промпт, список инструментов и общие документы можно кэшировать, если они идут первыми и не меняются. Текст пользователя — нельзя.
  5. Включите рассуждения в выход. DeepSeek V4.1 Flash, GLM 5.3 и Qwen3.8 27B думают перед ответом. Эти токены рассуждений оплачиваются как выход, и их часто больше, чем видимого ответа. Почему рассуждения стоят больше, чем видно.
  6. Оцените объём. Активные пользователи × действия на пользователя в день × 30.
  7. Перемножьте и сложите. Переведите итоги по токенам в миллионы и примените цену за 1 млн.
  8. Оцените три сценария. Низкий, ожидаемый и высокий. Трафик на запуске непредсказуем, а промпты со временем растут.
  9. Проверяйте не только деньги, но и лимиты. Пиковое число запросов в минуту и одновременных запросов должно укладываться в лимиты запросов вашего ключа.
  10. Выберите модель оплаты. Оплата за токены — для скачкообразного трафика, который создают пользователи; тариф с фиксированной ценой — для агентов, работающих без перерыва.

Как выглядит пример расчёта? Генератор черновиков ответов поддержки

В приложение для службы поддержки добавляют кнопку «Черновик ответа». Цифры ниже — допущения для иллюстрации. Замените каждую своими измерениями.

Параметр Значение Откуда берётся
Сотрудники поддержки (штат), которые пользуются функцией 500 Продуктовый план
Черновиков на оператора в день 4 Использование в пилоте
Дней в месяце 30
Действий в месяц 60 000 500 × 4 × 30
Вызовов на действие 1 Один вызов с найденными статьями
Входных токенов на вызов 5 000 Системный промпт, переписка по тикету, три статьи справки
Доля входа из кэша 50% Стабильный системный промпт и префикс со статьями
Выходных токенов на вызов 500 Около 200 видимых, 300 на рассуждения
Модель DeepSeek V4.1 Flash $0.175 / $0.0055 / $0.52 за 1 млн

Теперь итоги:

Строка Токенов в месяц Цена за 1 млн
Новый вход 150 млн $0.175
Вход из кэша 150 млн $0.0055
Выход, включая рассуждения 30 млн $0.52
Ожидаемая стоимость в месяц $42.67

Это 300 млн входных и 30 млн выходных токенов: 60 000 × 5 000 и 60 000 × 500.

Насколько широкими делать низкий и высокий сценарии?

Сценарий Действий в месяц Входные / выходные токены Стоимость в месяц
Низкий: медленное внедрение 20 000 100 млн / 10 млн $14.23
Ожидаемый 60 000 300 млн / 30 млн $42.67
Высокий: внедрение в 3 раза больше 180 000 900 млн / 90 млн 3 × $42.67

Во всех трёх сценариях доля кэша одинаковая — 50%. Если она упадёт, счёт вырастет: новый вход на этой модели стоит $0.175 за 1 млн против $0.0055 из кэша. Как держать долю кэша высокой.

Что сильнее всего меняет оценку?

  • Длина контекста. Поиск, который подтягивает десять статей вместо трёх, может удвоить вход. Измеряйте токены после каждого изменения промпта.
  • Рассуждения. reasoning_effort со значением low на простых черновиках сокращает скрытый выход. Рассуждения и max_tokens.
  • Повторы и циклы. 5% повторов добавляют 5% к каждой строке. У цикла агента без ограничения шагов потолка нет вовсе. Контроль расходов на LLM API.
  • Выбор модели. Gemma 4 VL 26B стоит $0.10 за вход и $0.22 за выход за 1 млн, но её контекст — 32 768 токенов, и BroadNet не указывает для неё рассуждения. Проверьте качество, прежде чем переходить на неё ради экономии.
  • Язык. Одному и тому же тексту на арабском или хинди может понадобиться гораздо больше токенов, чем на английском, и разрыв зависит от токенизатора. Наш датасет реальная стоимость по языкам показывает цену за 1 млн символов для каждого языка на каждой модели и у каждого провайдера.
  • Рост промптов. После запуска промпты обычно растут по мере обработки пограничных случаев. Повторяйте измерение в каждом релизе.
  • Изменения цен. Прейскурантные цены меняются редко, но могут расти. В архивных страницах цен 11 провайдеров мы зафиксировали 52 повышения прейскурантной цены с 2024 по ноябрь 2026 года, каждое — сравнение цены модели с её же прежней ценой (против 100 снижений); медианное повышение составило 40% по смешанной цене. См. статью как закладывать в бюджет рост цен на LLM API.

Если оценка получилась слишком высокой, прежде чем менять функцию, пройдите чек-лист из 10 шагов по снижению расходов на LLM API.

Укладывается ли объём в лимиты запросов?

60 000 действий в месяц — это около 2 000 в день. Если десятая часть дневных черновиков приходится на самый загруженный час, это 200 в час, или около 3 в минуту. Ключ BroadNet с оплатой по факту допускает 30 запросов в минуту и 4 одновременно, так что одного ключа хватит. Проверьте и высокий сценарий или прогоните свой пик через калькулятор лимитов запросов. О соотношении частоты запросов и числа одновременных запросов см. параллельность. Если получаете 429, повторяйте с задержкой.

Стоит ли запускать эту функцию на тарифе с фиксированной ценой?

Скорее нет. Сессия Full Moon стоит $60 в месяц, но выполняет один запрос за раз, а когда много пользователей одновременно нажимают «Черновик», нужны параллельные запросы. Тарифы с фиксированной ценой подходят агентам, которые работают непрерывно, например агенту для программирования. Расчёт окупаемости показывает, что агент для программирования на полный день стоит $65.40 в месяц при оплате за токены — больше цены тарифа.

Как превратить оценку в бюджет?

  1. Внесите ожидаемую цифру в план, а высокую — в порог оповещения.
  2. Логируйте токены на действие в продакшене и каждую неделю сравнивайте с моделью затрат.
  3. Задайте жёсткие ограничения в коде: max_tokens, лимиты шагов и лимиты повторов.
  4. Пересчитывайте оценку каждый раз, когда меняете модель, промпт или настройки поиска.

Пересчитать стоимость при оплате за токены на своих цифрах можно в калькуляторе стоимости LLM API, а сравнить тариф с оплатой за токены — на странице цен.

Какое место здесь занимает BroadNet Inference

BroadNet Inference публикует цены за токены для всех моделей чата и распознавания речи, которые она обслуживает, в одном файле цен, поэтому оценку выше можно держать в коде. Новые аккаунты получают стартовый кредит $5, который действует для Gemma 4 VL 26B и обеих моделей транскрипции, так что вы можете измерить свои примеры на Gemma; для DeepSeek, GLM и Qwen нужно пополнение. Если вашей функции нужна закрытая передовая модель, для этой части BroadNet — неподходящий провайдер.

Вопросы и ответы

Как оценить число токенов, пока пользователей ещё нет?

Подготовьте 20–50 реалистичных входных данных, прогоните их через модель, которую собираетесь использовать, и прочитайте prompt_tokens, cached_tokens и completion_tokens из блока usage. Усредните их на один вызов.

Сколько токенов в типичном запросе к чату?

Очень по-разному. Короткая реплика в чате может занимать несколько сотен токенов, а запрос с найденными документами или длинной историей — десятки тысяч. Измеряйте свои промпты.

Нужно ли закладывать запас в оценку стоимости LLM?

Да. Оцените высокий сценарий в два-три раза выше ожидаемого объёма и заложите в бюджет повторы и более длинные промпты по мере роста функции. Затем задайте жёсткие лимиты, чтобы баг не мог выйти за эту сумму.

Когда стоит подумать о тарифе с фиксированной ценой?

Когда один агент или воркер большую часть дня работает на одной модели. Для DeepSeek V4.1 Flash в BroadNet сессия Full Moon стоит $60 в месяц без счётчика токенов, один запрос за раз.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity