Большинство списков «сократите счёт за LLM на 70%» смешивают хорошие советы с цифрами, которые никто не измерял. Этот чек-лист упорядочен по тому, что делать в первую очередь, и каждая цифра в нём взята из прайс-файла или собственной документации провайдера. Если для шага на этом сайте есть более подробная статья, мы даём на неё ссылку. Цены BroadNet ниже взяты из её прайс-файла, синхронизированного 2026-11-14.
Из чего складывается счёт за LLM API?
Почти любой счёт определяют четыре числа:
- Новые входные токены. Промпт за вычетом той части, что прочитана из кэша.
- Входные токены из кэша. Повторяющийся префикс, который оплачивается по сниженной цене.
- Выходные токены. Ответ, а у рассуждающих моделей — ещё и токены рассуждений.
- Число запросов. Каждый вызов, включая каждый повтор, оплачивается отдельно.
Дороже всего обходится выход. Цены чат-моделей BroadNet за 1 млн токенов:
| Модель | Вход | Вход из кэша | Выход |
|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Gemma 4 VL 26B | $0.10 | не опубликовано | $0.22 |
Значит, рычаги такие: отправлять меньше новых токенов, больше читать из кэша, меньше генерировать и реже обращаться к API. Каждая единица подробно разобрана в статье как устроены цены LLM API.
Чек-лист коротко
| Шаг | Что меняете | Что сокращается | Усилия |
|---|---|---|---|
| 1. Замер | Только логирование | Пока ничего; показывает, где сокращать | Низкие |
| 2. Кэш префикса | Порядок частей промпта | Цена входа | Низкие |
| 3. Сокращение промпта | Содержимое промпта | Входные токены | Средние |
| 4. Лимит выхода и рассуждений | Параметры запроса | Выходные токены | Низкие |
| 5. Подходящий размер модели | Выбор модели | Все цены | Средние |
| 6. Пакетная обработка или перенос | Расписание | Цена за токен, где это предлагается | Средние |
| 7. Кэш ответов | Код приложения | Целые запросы | Средние |
| 8. Ограничение повторов и циклов | Код приложения | Лишние запросы | Низкие |
| 9. Лимиты расходов | Аккаунт и ключи | Неконтролируемые счета | Низкие |
| 10. Точка безубыточности фиксированного тарифа | Модель оплаты | Итоговый счёт при больших объёмах | Низкие |
1. Зачем измерять, прежде чем что-то сокращать?
Потому что счёт скрывает причину. Два одинаковых на вид запроса могут различаться по числу токенов в десять раз. Каждый chat completion возвращает блок usage с prompt_tokens, completion_tokens и — если провайдер это сообщает — токенами из кэша. Логируйте их по каждой функции и каждому пользователю, без текста промпта. Через неделю вы будете знать, какая функция тратит больше всего и на что: на вход, на промахи кэша или на выход.
Схема логов показана в статье логирование использования с удалением персональных данных. Чтобы оценить функцию до релиза, воспользуйтесь калькулятором стоимости LLM API или методикой из статьи как оценить стоимость до запуска.
2. Как кэширование промптов снижает расходы?
Провайдеры кэшируют начало промпта, если оно повторяется в точности. Следующий вызов читает этот префикс по цене кэша. OpenAI по умолчанию включает кэширование для поддерживаемых моделей начиная с 1024 токенов и пишет, что вход из кэша “discounted up to 95%” (перевод: «со скидкой до 95%»; проверено 2026-11-15). В BroadNet модель DeepSeek V4.1 Flash тарифицирует вход из кэша по $0.0055 за 1 млн против $0.175 за новый вход.
Правило: статичное — в начало, изменчивое — в конец. Системный промпт, затем схемы инструментов, затем общие документы, затем история и, наконец, новый вопрос. Метка времени или перемешанный список инструментов в начале ломает кэш для всего, что идёт после них.
- Что такое токены из кэша и как найти их в ответе.
- Как структурировать промпты, чтобы префикс кэшировался.
- Смоделируйте свою долю попаданий в калькуляторе кэширования промптов.
3. Какие сокращения промпта безопасны?
Убирайте то, чем модель не пользуется. Частые находки: длинные системные промпты, написанные прозой; больше few-shot-примеров, чем нужно задаче; схемы инструментов, которые на этом шаге не вызываются; многословный JSON там, где хватило бы компактной таблицы; полная история чата там, где хватило бы краткого пересказа. Поиск по документам (retrieval) тоже «уплывает»: отправлять десять фрагментов, когда на вопрос отвечают два, — это проблема и для расходов, и для качества.
Проверяйте каждое сокращение на фиксированном наборе входных данных, чтобы более дешёвый промпт незаметно не испортил ответы. В статье как сократить токены промпта приведены замеры по каждому из этих сокращений. Язык тоже важен: в большинстве токенизаторов арабский текст расходует больше токенов на слово, чем английский; см. токены на слово: арабский и английский.
4. Как ограничить выход и рассуждения?
Просите меньше и задавайте предел. Просите поля JSON вместо прозы, лимит слов вместо «объясни» и не пересказывать вопрос. Затем задайте max_tokens, чтобы слишком длинный ответ останавливался.
С рассуждающими моделями нужна осторожность. Документация BroadNet говорит, что рассуждения засчитываются в max_tokens, поэтому при низком лимите можно получить пустой ответ. Оставляйте 1000 токенов или больше, а на простых шагах задавайте reasoning_effort равным low. На ключах с оплатой за токены рассуждения оплачиваются как выход. Обе стороны вопроса разобраны в статьях токены рассуждений: почему вы платите больше, чем видите и как исправить пустые ответы.
5. Как выбрать модель подешевле без потери качества?
Сравнивайте стоимость успешно выполненной задачи, а не цену за токен. Соберите 50–100 реальных входных данных с ожидаемыми ответами, прогоните каждую модель-кандидата и разделите расходы на число успешных прогонов. Модель, которая дешевле за токен, но ошибается в трети случаев, с учётом повторов и ручной проверки может обойтись дороже.
Сначала проверьте функции. В BroadNet вызов инструментов и структурированный вывод документированы только для GLM 5.3 и Qwen3.8 27B. Gemma 4 VL 26B — младшая модель BroadNet для текста и изображений; для простых задач посмотрите её цену в таблице выше. Многие приложения используют маленькую модель для лёгких шагов и большую — для сложных; модель вы выбираете в своём коде. План тестирования — в статье как оценить LLM перед переходом.
Не ждите, что текущая модель подешевеет. Провайдеры редко снижают цену уже выпущенной модели; экономия обычно приходит с новой версией. См. историю цен API OpenAI, Anthropic и Google и крупнейшие снижения цен LLM API.
6. Можно ли отправить в пакетную обработку или перенести то, что может подождать?
Если провайдер это предлагает — да, и скидки большие. Всё проверено 2026-11-15:
| Провайдер | Скидка | Подвох |
|---|---|---|
| OpenAI Batch API | 50% по сравнению с синхронными вызовами | Выполняется в течение 24 часов; отдельные лимиты запросов |
| Anthropic Message Batches API | 50% | Асинхронно; большинство пакетов завершается быстрее чем за час |
| DeepSeek API, вне пика | Цены вне пика вдвое ниже пиковых | Пик — с 01:00 до 04:00 и с 06:00 до 10:00 UTC, с понедельника по пятницу |
У BroadNet Inference нет ни Batch API, ни цен вне пика. Ночные задания в BroadNet запускайте через возобновляемый раннер на обычном эндпоинте в пределах лимитов вашего ключа. Код — в статье пакетная обработка LLM без Batch API. Если задание идёт часами, сессия по фиксированной цене может обойтись дешевле токенов (шаг 10).
7. Когда стоит кэшировать ответы целиком?
Когда один и тот же вопрос приходит снова с теми же входными данными. FAQ-боты, классификация повторяющихся элементов и перезапуск конвейера после сбоя — всё это повторная работа. Кэш с точным совпадением по ключу из модели, промпта и параметров возвращает сохранённый ответ и пропускает вызов. Задайте срок жизни записей, чтобы ответы не устаревали. Небольшая реализация показана в статье кэширование ответов LLM на Python.
8. Как повторы и циклы сжигают деньги?
Повторный запрос — это новый инференс, и на ключах с оплатой за токены он оплачивается заново. Повторяйте только при ошибках 429 и 5xx, с экспоненциальной задержкой и случайным разбросом (jitter), и ограничивайте число попыток. Никогда не повторяйте запрос с ошибкой 400: тот же неверный запрос упадёт так же.
Агенты добавляют второй риск: цикл, который раз за разом вызывает модель. Ограничьте число шагов на задачу и останавливайтесь, когда один и тот же вызов инструмента повторяется. Обе темы разобраны в статьях обработка ошибок 429 и 10 способов сократить расходы на агента для программирования.
9. Как не дать счёту выйти из-под контроля?
Оповещения сообщают о проблеме постфактум. Лимиты её предотвращают. Используйте предоплаченный баланс, отдельный ключ для каждого приложения, чтобы отозвать один, не останавливая остальные, и список разрешённых IP-адресов для серверных ключей. В коде задавайте бюджет на задание и останавливайтесь, когда он исчерпан. Все уровни, от аккаунта до запроса, описаны в статье контроль расходов на LLM API.
10. Когда тариф с фиксированной ценой выгоднее оплаты за токены?
Когда агент работает большую часть дня. BroadNet продаёт DeepSeek V4.1 Flash за токены или за сессию: Full Moon — $60 в месяц, Orbit — $15 в неделю, Meteor — $1 в час, без счётчика токенов. Одна сессия выполняет один запрос за раз.
Примеры расчёта BroadNet при оплате за токены:
| Нагрузка | Оплата за токены в месяц | Что дешевле |
|---|---|---|
| Пет-проект | $14.23 | оплата по факту |
| Ежедневный ассистент | $42.67 | оплата по факту |
| Агент для программирования на полный день | $65.40 | Full Moon |
| Агент, работающий круглосуточно | $196.20 | Full Moon |
При 80% попаданий в кэш и 20 входных токенах на каждый выходной точка безубыточности — примерно 917 млн входных и 46 млн выходных токенов в месяц. При небольшой нагрузке оплата за токены остаётся дешевле. Полный расчёт точки безубыточности, или подставьте свои объёмы в калькулятор «фиксированная цена или оплата за токены».
Какие шаги лучше пропустить?
Некоторые популярные советы обходятся дороже, чем экономят:
- Сжимать промпты, пока они не сломаются. Экономия на входе теряется, если качество ответов падает и пользователи повторяют запросы.
- Пересказывать историю на каждом шаге. Каждый пересказ — лишний вызов, к тому же он меняет префикс, и кэш промахивается. Пересказывайте редко, а остальное дописывайте в конец.
- Гнаться только за самой низкой ценой за токен. Лимиты запросов, недостающие функции и доля ошибок — всё это добавляет расходов.
- Свой хостинг для небольшой нагрузки. GPU оплачиваются почасово, заняты они или нет. Где находится точка безубыточности, показано в статье свой хостинг или API: что дешевле.
Какое место здесь занимает BroadNet Inference
BroadRouter — собственный сайт BroadNet, так что учитывайте это, читая этот раздел. BroadNet Inference — OpenAI-совместимый API с четырьмя чат-моделями с оплатой за токены, ценой для входа из кэша у трёх из них и тарифом с фиксированной ценой на DeepSeek V4.1 Flash для агентов со стабильной нагрузкой. Batch API и цен вне пика здесь нет, поэтому для больших заданий, которые могут подождать, пакетные скидки OpenAI или Anthropic либо непиковые часы DeepSeek могут обойтись дешевле. Новые аккаунты получают стартовый грант $5, который покрывает Gemma 4 VL 26B, обе модели Transcribe и почасовые ключи Gemma; для DeepSeek, GLM и Qwen нужно пополнить баланс. У самостоятельного подключения нет SLA. Посмотреть цены или сравнить тарифы.
