---
title: "Кэширование промптов: как снизить счёт за LLM API | BroadRouter"
description: "Вход из кэша стоит лишь часть цены обычного входа. Как тарифицируется кэширование промптов, где смотреть cached_tokens и как строить промпт под кэш."
url: https://broadrouter.com/ru/blog/cached-input-tokens-explained/
lang: ru
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/blog/cached-input-tokens-explained/) (обновлён 2026-11-15).

# Кэшированные входные токены: как снизить счёт за LLM API

Команда BroadNet Inference · 5 мин чтения · Опубликовано 2026-11-14 · Обновлено 2026-11-15

Кэшированные входные токены — это токены промпта, которые провайдер уже обработал и может использовать повторно, поэтому они оплачиваются по сниженной цене. В BroadNet Inference модель DeepSeek V4.1 Flash тарифицирует вход из кэша по $0.0055 за 1 млн токенов против $0.175 за новый вход. Чтобы получить скидку, ставьте стабильную часть промпта в начало и не меняйте её между вызовами.

## Главное

-   Вход из кэша у DeepSeek V4.1 Flash: $0.0055 за 1 млн токенов; новый вход: $0.175.
-   Блок usage сообщает `prompt_tokens_details.cached_tokens`, если модель это возвращает, так что долю попаданий в кэш можно измерить.
-   Стабильное — в начало (системный промпт, инструменты, документы), изменчивое — в конец.
-   Кэш сопоставляется с начала промпта. Один изменённый токен в начале делает новым всё, что идёт после него.
-   Больше всего выигрывают агенты, которые на каждом шаге заново отправляют один и тот же контекст репозитория.

**На этой странице**

1.  Что такое кэшированный входной токен?
2.  Сколько стоят токены из кэша в BroadNet Inference?
3.  Сколько можно сэкономить на кэшировании? Пример расчёта
4.  Как увидеть токены из кэша в ответе API?
5.  Чем кэширование промптов отличается у OpenAI, Anthropic и DeepSeek?
6.  Что снижает долю попаданий в кэш?
7.  Когда кэширование перестаёт иметь значение?
8.  Почему кэширование важнее при длинном контексте?
9.  Какое место здесь занимает BroadNet Inference

Большая часть того, что агент отправляет LLM, на каждом шаге одна и та же: системный промпт, описания инструментов, файлы, с которыми он работает, и весь предыдущий диалог. Новое только последнее сообщение. Благодаря кэшированию промптов провайдер не берёт за эту повторяющуюся часть полную цену.

## Что такое кэшированный входной токен?

Каждый запрос состоит из [входных и выходных токенов](https://broadrouter.com/ru/glossary/input-and-output-tokens/). Прежде чем ответить, модель обрабатывает весь промпт. Если предыдущий запрос начинался ровно с тех же токенов, система инференса может повторно использовать эту работу, а не выполнять её заново. Повторно использованная часть отображается как [кэшированные входные токены](https://broadrouter.com/ru/glossary/cached-input-tokens/) и оплачивается по сниженной цене.

Из этого механизма следуют два вывода:

-   **Кэшируется только префикс.** Сопоставление идёт от первого токена вперёд и останавливается на первом различии.
-   **Ответ никогда не кэшируется.** Модель всё равно генерирует новый выход, и он оплачивается по полной цене выхода.

## Сколько стоят токены из кэша в BroadNet Inference?

Цены за 1 млн токенов из опубликованного прайс-файла:

| Модель | Новый вход | Вход из кэша | Выход |
| --- | --- | --- | --- |
| [DeepSeek V4.1 Flash](https://broadrouter.com/ru/models/deepseek-v4.1-flash/) | $0.175 | $0.0055 | $0.52 |
| [GLM 5.3](https://broadrouter.com/ru/models/glm-5.3/) | $0.78 | $0.173 | $3.46 |
| [Qwen3.8 27B](https://broadrouter.com/ru/models/qwen3.8-27b/) | $0.175 | $0.0435 | $2.17 |

У DeepSeek V4.1 Flash разница большая: сравните $0.0055 за 1 млн токенов из кэша и $0.175 за 1 млн новых. Для агента, который на каждом шаге заново отправляет репозиторий на 200 000 токенов, доля попаданий в кэш определяет большую часть счёта.

## Сколько можно сэкономить на кэшировании? Пример расчёта

Агент для программирования отправляет промпт на 200 000 токенов 100 раз за рабочий день. Это 20 млн входных токенов в день.

| Доля попаданий в кэш | Новые входные токены | Входные токены из кэша |
| --- | --- | --- |
| 0% | 20 млн по $0.175 за 1 млн | 0 |
| 50% | 10 млн по $0.175 за 1 млн | 10 млн по $0.0055 за 1 млн |
| 90% | 2 млн по $0.175 за 1 млн | 18 млн по $0.0055 за 1 млн |

Дневной счёт за вход считается по формуле `new tokens (M) × input price + cached tokens (M) × cached price`, то есть новые токены (в млн) × цена входа + токены из кэша (в млн) × цена входа из кэша. При 90% 18 млн из 20 млн входных токенов оплачиваются по цене кэша, а не по полной цене входа, поэтому чем больше разрыв между этими двумя ценами, тем больше вы экономите на входной части счёта. Выход не меняется. Подставьте свои цифры в [калькулятор кэширования промптов](https://broadrouter.com/tools/prompt-caching-calculator/).

## Как увидеть токены из кэша в ответе API?

В справочнике API BroadNet сказано, что если модель сообщает такие токены, объект `usage` содержит `prompt_tokens_details.cached_tokens`: токены промпта, прочитанные из кэша и оплаченные по цене кэша. При [стриминге](https://broadrouter.com/ru/glossary/streaming/) запросите usage в последнем чанке:

```python
from openai import OpenAI
import os

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
messages = [
    {"role": "system", "content": "You are a code reviewer."},  # stable prefix: keep it identical
    {"role": "user", "content": "Review the diff below."},
]
stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=messages,
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.usage:
        u = chunk.usage
        cached = (u.prompt_tokens_details.cached_tokens if u.prompt_tokens_details else 0) or 0
        print(f"prompt={u.prompt_tokens} cached={cached} rate={cached / max(1, u.prompt_tokens):.0%}")
```

Логируйте эту долю по каждому запросу в течение дня. Она показывает, сколько вы платите на самом деле, и именно её стоит подставлять в [калькулятор кэширования промптов](https://broadrouter.com/tools/prompt-caching-calculator/). Подробнее об usage при стриминге — в [руководстве по стримингу](https://broadrouter.com/ru/guides/streaming-chat-completions/).

## Чем кэширование промптов отличается у OpenAI, Anthropic и DeepSeek?

Единого стандарта кэширования нет. Вот что говорила официальная документация, когда мы обращались к ней 14 ноября 2026 г.:

|  | OpenAI | Anthropic | DeepSeek (прямой API) |
| --- | --- | --- | --- |
| Включение | По умолчанию для поддерживаемых моделей | По запросу, через поле `cache_control` (автоматически или для отдельного блока) | По умолчанию для всех пользователей |
| Минимальный промпт | 1024 токена на GPT-5.6 и новее | От 512 до 4096 токенов, в зависимости от модели | Минимум не указан |
| Время жизни кэша | По умолчанию 30 минут на GPT-5.6 и новее; есть вариант на 12 часов | По умолчанию 5 минут, 1 час за доплату | По возможности; очищается, если не используется, “a few hours to a few days” (перевод: «от нескольких часов до нескольких дней») |
| Запись | 1,25× цены входа (30 минут) или 2,5× (12 часов) на GPT-5.6 и новее | 1,25× цены входа на 5 минут, 2× на 1 час | Плата за запись не упоминается |
| Чтение | 0,1× цены входа на GPT-5.6 и новее (0,05× на GPT-6.1 Sol и Terra) | 0,1× цены входа на большинстве моделей, на некоторых ниже | Отдельная цена “cache hit” (попадание в кэш) |
| Поле в usage | `cached_tokens` в деталях токенов | `cache_read_input_tokens` | `prompt_cache_hit_tokens` |

Источники: [руководство OpenAI по кэшированию промптов](https://developers.openai.com/api/docs/guides/prompt-caching), [документация Anthropic по кэшированию промптов](https://platform.claude.com/docs/en/build-with-claude/prompt-caching) и [документация DeepSeek по кэшированию контекста](https://api-docs.deepseek.com/guides/kv_cache). Там, где запись стоит дополнительно, кэш, который записан, но ни разу не прочитан, обходится дороже, чем отсутствие кэша. Кэширование окупается только на промптах, которые вы действительно повторяете. Чтобы сравнить прайсовые цены по моделям, откройте [таблицу цен на LLM API](https://broadrouter.com/ru/llm-api-pricing/).

## Что снижает долю попаданий в кэш?

Кэш сопоставляет точный префикс, поэтому любое изменение в начале промпта делает всё остальное новым. Типичные причины:

-   метка времени, ID запроса или имя пользователя в начале системного промпта;
-   описания инструментов или JSON, которые при каждом вызове сериализуются с другим порядком ключей, из-за чего меняются [токены](https://broadrouter.com/ru/glossary/token/);
-   агент, который переписывает или пересказывает свою историю вместо того, чтобы дописывать её;
-   долгие паузы, после которых кэш истекает.

Решение — фиксированный порядок слоёв (системный промпт, инструменты, документы, история, новое сообщение), где каждый слой побайтово совпадает между вызовами. В статье [как структурировать промпты, чтобы префикс кэшировался](https://broadrouter.com/ru/blog/prompt-structure-for-caching/) эта схема разобрана в коде вместе с тестом, который доказывает, что префикс используется повторно.

## Когда кэширование перестаёт иметь значение?

На тарифе с фиксированной ценой счёт вообще не зависит от токенов. Full Moon стоит $60 в месяц за сессию с безлимитным DeepSeek V4.1 Flash. Если ваш агент уже переходит [точку безубыточности](https://broadrouter.com/ru/blog/flat-rate-vs-pay-per-token-llm-api/), доля попаданий в кэш перестаёт быть вопросом расходов. На длинных промптах описанные выше привычки всё равно помогают со скоростью, так что их стоит сохранить в любом случае.

## Почему кэширование важнее при длинном контексте?

DeepSeek V4.1 Flash и GLM 5.3 принимают до 1 048 576 токенов на запрос. Именно кэширование делает очень длинные промпты доступными по цене на ключе с оплатой за токены, потому что большая повторяющаяся часть [контекстного окна](https://broadrouter.com/ru/glossary/context-window/) оплачивается по цене кэша. См. статью [когда контекстное окно на 1 млн токенов того стоит](https://broadrouter.com/ru/blog/million-token-context-window-guide/).

## Какое место здесь занимает BroadNet Inference

BroadNet публикует цену входа из кэша для каждой чат-модели, у которой она есть, и сообщает токены из кэша в usage, если их возвращает модель, так что свою долю попаданий можно измерить до того, как брать на себя обязательства. Время жизни кэша и минимальную длину промпта BroadNet не публикует, поэтому измерьте их на собственном трафике. Если ваш агент работает весь день, тариф с фиксированной ценой снимает этот вопрос полностью.

Бесплатные инструменты по теме (на английском)

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [Prompt caching savings calculator](https://broadrouter.com/tools/prompt-caching-calculator/) Bill with and without caching, by prefix share and hit rate.
-   [Prompt token diff](https://broadrouter.com/tools/prompt-token-diff/) Two prompt versions side by side: changed lines, exact token delta and the monthly cost difference.

[Бесплатные инструменты (на английском)](https://broadrouter.com/tools/)

## Термины в этой статье

[Токен (token)](https://broadrouter.com/ru/glossary/token/)

Токен — это единица текста, которую языковая модель читает и пишет: слово, часть слова, знак препинания или последовательность байтов, которую выдаёт токенизатор модели. LLM API считают, ограничивают и обычно тарифицируют использование в токенах.

[ИИ-агент (AI agent)](https://broadrouter.com/ru/glossary/agent/)

ИИ-агент — это система, в которой языковая модель сама направляет свои шаги к цели: решает, какие инструменты вызвать, читает результаты и повторяет, пока не выдаст итоговый ответ или не упрётся в лимит. Фиксированный сценарий, который вызывает модель в заранее заданных местах, обычно называют не агентом, а workflow.

[Входные и выходные токены (input and output tokens)](https://broadrouter.com/ru/glossary/input-and-output-tokens/)

Входные токены — это токены, которые языковая модель читает в запросе: системный промпт, история диалога, описания инструментов и изображения. Выходные токены — это токены, которые она генерирует в ответ, включая рассуждения. LLM API обычно тарифицируют их по отдельности, и выход, как правило, дороже.

[Вход из кэша (cached input tokens)](https://broadrouter.com/ru/glossary/cached-input-tokens/)

Вход из кэша (cached input tokens) — это токены промпта, которые провайдер LLM недавно обработал и может взять из кэша, а не вычислять заново; обычно это повторяющийся префикс, например системный промпт или документ. Провайдеры тарифицируют их дешевле, чем новые входные токены.

[Вызов инструментов (tool calling)](https://broadrouter.com/ru/glossary/tool-calling/)

Вызов инструментов (function calling) — это функция LLM API, при которой модель возвращает структурированный запрос на выполнение функции, заданной разработчиком, с аргументами в JSON. Приложение выполняет функцию и отправляет результат обратно; сама модель код никогда не выполняет.

[Стриминг (streaming)](https://broadrouter.com/ru/glossary/streaming/)

Стриминг — это способ возвращать ответ языковой модели небольшими частями (чанками) прямо во время генерации, а не одним ответом в конце. OpenAI-совместимые API передают поток через server-sent events, если в запросе stream равен true.

[Безлимитный тариф LLM (flat-rate LLM plan)](https://broadrouter.com/ru/glossary/flat-rate-llm-plan/)

Безлимитный тариф LLM, или тариф с фиксированной ценой, — это доступ к API языковой модели за фиксированную плату за период, например месяц, вместо оплаты за токены. Обычно такие тарифы ограничивают что-то другое — параллельность, скорость, набор моделей или окна использования, поэтому ограничения важны не меньше цены.

[ИИ-агент для программирования (AI coding agent)](https://broadrouter.com/ru/glossary/coding-agent/)

ИИ-агент для программирования — это инструмент, в котором языковая модель работает с кодовой базой в цикле: читает файлы, правит их, запускает команды, например тесты, читает вывод и решает, каким будет следующий шаг, пока задача не выполнена или не достигнут лимит.

## Вопросы и ответы

### Нужно ли включать кэширование промптов?

Зависит от провайдера. OpenAI и DeepSeek кэшируют автоматически, а Anthropic требует поле cache\_control. В BroadNet Inference смотрите блок usage: если модель сообщает токены из кэша, они появляются в prompt\_tokens\_details.cached\_tokens и оплачиваются по цене входа из кэша.

### Как проверить, работает ли кэширование промптов?

Запрашивайте usage в каждом запросе и делите cached\_tokens на prompt\_tokens. Если на втором вызове длинного повторяющегося промпта доля близка к нулю, значит, что-то в начале промпта меняется между вызовами.

### Почему у меня низкая доля попаданий в кэш?

Обычно потому, что что-то в начале промпта меняется при каждом вызове, например метка времени, ID запроса или переставленный список инструментов. Перенесите изменчивое содержимое в конец.

### Чем кэширование промптов отличается от кэширования ответов?

Кэширование промптов повторно использует работу провайдера над повторяющимся префиксом промпта, а ответ модель всё равно пишет заново. Кэширование ответов вы строите сами: сохраняете ответы целиком и возвращаете их на одинаковые вопросы, не обращаясь к модели.

### Токены из кэша бесплатные?

Нет. Они оплачиваются по сниженной цене, а не по нулевой. У DeepSeek V4.1 Flash вход из кэша стоит $0.0055 за 1 млн токенов, а выход оплачивается полностью.

### Важно ли кэширование на безлимитном тарифе?

Для счёта — нет, потому что у сессий тарифа нет счётчика токенов. Но во многих системах инференса кэш сокращает время до первого токена на длинных промптах, так что те же привычки всё равно полезны.

## Читайте также

-   [Как структурировать промпты, чтобы префикс кэшировался](https://broadrouter.com/ru/blog/prompt-structure-for-caching/)
-   [Цены на LLM API: вход, кэш, выход и токены рассуждений](https://broadrouter.com/ru/blog/llm-api-pricing-explained/)
-   [Фиксированный тариф или оплата за токены в LLM API: когда выгоднее](https://broadrouter.com/ru/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [Когда контекстное окно на 1 млн токенов оправдано (а когда нет)](https://broadrouter.com/ru/blog/million-token-context-window-guide/)
-   [Кэширование ответов LLM API: кэш точных совпадений на Python](https://broadrouter.com/ru/blog/cache-llm-responses-cut-cost/)
-   [Цены на LLM API в октябре 2026: 3 повышения и ни одного снижения](https://broadrouter.com/ru/blog/llm-api-price-changes-october-2026/)
-   [Как часто меняются цены на LLM API? 3 года архивных страниц цен](https://broadrouter.com/ru/blog/how-often-llm-api-prices-change/)
-   [Руководство: Стриминг chat completions и обрыв соединения](https://broadrouter.com/ru/guides/streaming-chat-completions/)
-   [Руководство: OpenAI Python SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-python-sdk/)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-cached-input-tokens-explained&utm_content=page-cta) ·

**Источники**

-   [Справочник API BroadNet Inference, рассуждения и токены из кэша (дата обращения 2026-11-14) (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-cached-input-tokens-explained&utm_content=sources)
-   [Машиночитаемые цены BroadNet Inference (pricing.json, дата обращения 2026-11-14) (на английском)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-cached-input-tokens-explained&utm_content=sources)
-   [Руководство OpenAI по кэшированию промптов (дата обращения 2026-11-14)](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [Документация Anthropic по кэшированию промптов (дата обращения 2026-11-14)](https://platform.claude.com/docs/en/build-with-claude/prompt-caching)
-   [Документация DeepSeek API, кэширование контекста (дата обращения 2026-11-14)](https://api-docs.deepseek.com/guides/kv_cache)
