---
title: "Ano ang cached input token? Prompt caching, ipinaliwanag"
description: "Prompt token na ginamit ulit ng provider mula sa kamakailang request at mas mura ang singil. Paano gumagana ang prefix caching, at paano ito sukatin at pataasin."
url: https://broadrouter.com/fil/glossary/cached-input-tokens/
lang: fil
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/glossary/cached-input-tokens/) (na-update noong 2026-11-14).

# Cached input token (cached input tokens)

Na-update 2026-11-14

Ang cached input token ay prompt token na kamakailan lang naproseso ng LLM provider at magagamit ulit mula sa cache sa halip na kuwentahin muli, kadalasang paulit-ulit na prefix gaya ng system prompt o dokumento. Mas mababa ang singil dito kaysa sa bagong input token.

Tinatawag ding: cached input, cached token, prompt caching, cache hit, cache hits, cached tokens, context caching, cache read tokens

Halos pareho ang karamihan ng ipinapadala ng isang agent sa bawat turn. Sa prompt caching, nalalaktawan ng provider ang muling pagkuwenta sa paulit-ulit na bahaging iyon, at mas mababa ang singil dito.

## Paano ito gumagana

Kapag binabasa ng model ang isang prompt, kinukuwenta nito ang internal state para sa bawat token. Puwedeng itago ng provider ang state na iyon nang sandali. Kung nagsisimula ang susunod na request sa parehong mga token, binabasa ng provider ang nakatagong state sa halip na kuwentahin ito ulit. **Cached input token** ang tawag sa mga token na iyon.

Mula sa simula ng prompt nagtutugma ang cache. Ayon sa gabay ng OpenAI, ang reuse ay “requires the entire rendered prefix to match.” (Salin ng BroadRouter: “kailangang magtugma ang buong rendered prefix.”) Kapag may isang character na nagbago sa unahan ng prompt, bagong input na ang lahat ng kasunod nito.

Magkakaiba ang mga provider sa detalye:

-   **OpenAI**: naka-on bilang default ang caching sa mga suportadong model, at iniuulat ang mga hit sa usage block. May dokumentadong minimum na prefix na 1,024 token sa mas bagong mga model nito.
-   **Anthropic**: sinisingil ang cache read sa 0.1 beses ng base na presyo ng input sa karamihan ng model, may dagdag na singil ang cache write, at 5 minuto ang default na tagal ng mga entry.

Sa Chat Completions format, lumalabas ang mga hit bilang `usage.prompt_tokens_details.cached_tokens`. Ang cache rate ay ang numerong iyon na hinati sa `prompt_tokens`.

## Bakit ito mahalaga

Sa mahahaba at paulit-ulit na prompt, ang cache rate ang nagpapasya sa bill. Ang isang agent na nagpapadala ulit ng 200,000-token na repository sa bawat turn ay nagbabayad ng buong presyo ng input nang isang beses, at ng cached na presyo pagkatapos, basta stable ang prefix. Puwede ring paikliin ng caching ang time to first token sa mahahabang prompt, dahil mas kaunti ang trabaho bago magsimula ang pagbuo ng sagot.

Para pataasin ang rate, ilagay sa unahan ang stable na content (system prompt, tool definitions, mga dokumento) at sa dulo ang nagbabagong content. Huwag ilagay ang mga timestamp at request ID sa itaas ng prompt, at panatilihing nakaayos sa parehong pagkakasunod ang listahan ng tools. Nasa [LLM API price index](https://broadrouter.com/data/llm-api-price-index/) kung ilang porsiyento ng published na presyo ng mga provider ang may presyo para sa cached input, at ang karaniwang diskwento.

## Sa BroadNet Inference

Naglalathala ang BroadNet ng presyo ng cached input para sa tatlong chat model, kada 1M token:

| Model | Bagong input | Cached input |
| --- | --- | --- |
| [DeepSeek V4.1 Flash](https://broadrouter.com/fil/models/deepseek-v4.1-flash/) | $0.175 | $0.0055 |
| [GLM 5.3](https://broadrouter.com/fil/models/glm-5.3/) | $0.78 | $0.173 |
| [Qwen3.8 27B](https://broadrouter.com/fil/models/qwen3.8-27b/) | $0.175 | $0.0435 |

Awtomatikong sinisingil sa mas mababang presyo ang mga cached token, at ipinapakita ang mga ito ng `prompt_tokens_details.cached_tokens` kapag iniuulat ito ng model. Sa isang stream, hilingin ang usage gamit ang `stream_options` gaya ng ipinapakita sa [streaming guide](https://broadrouter.com/fil/guides/streaming-chat-completions/).

Sa isang [flat-rate plan](https://broadrouter.com/fil/glossary/flat-rate-llm-plan/), walang token meter, kaya hindi binabago ng cache rate ang bill. Nasa [cached input tokens, ipinaliwanag](https://broadrouter.com/fil/blog/cached-input-tokens-explained/) ang buong walkthrough, kasama ang code para i-log ang rate mo.

## Mga tanong

### Binibilang pa rin ba sa context window ang mga cached token?

Oo. Binabago ng caching kung magkano ang babayaran mo para sa mga token na iyon, hindi kung binibilang ang mga ito. Tahasang sinasabi ito ng docs ng Anthropic.

### Gaano katagal ang isang cache?

Depende sa provider. Sa Anthropic, 5 minuto ang default na tagal, at nare-refresh ito tuwing ginagamit ang cache, at may opsyonal na 1 oras. Hindi laging naglalathala ng fixed na oras ang ibang provider, kaya sukatin ang hit rate mo.

### Binabago ba ng caching ang sagot?

Hindi. Ang trabahong ginawa sa prompt ang itinatago ng cache, hindi ang sagot. Bagong sagot pa rin ang binubuo ng model.

## Tingnan din

-   [Input at output token (input and output tokens)](https://broadrouter.com/fil/glossary/input-and-output-tokens/) (termino)
-   [Token](https://broadrouter.com/fil/glossary/token/) (termino)
-   [Context window](https://broadrouter.com/fil/glossary/context-window/) (termino)
-   [Pay-as-you-go](https://broadrouter.com/fil/glossary/pay-as-you-go/) (termino)
-   [KV cache](https://broadrouter.com/fil/glossary/kv-cache/) (termino)
-   [System prompt](https://broadrouter.com/fil/glossary/system-prompt/) (termino)
-   [Paano mag-stream ng chat completions at ayusin ang naputol na stream](https://broadrouter.com/fil/guides/streaming-chat-completions/) (gabay)
-   [Cached input token: paano nito binabawasan ang LLM API bill mo](https://broadrouter.com/fil/blog/cached-input-tokens-explained/) (artikulo)
-   [Kailan sulit ang 1M-token na context window (at kailan hindi)](https://broadrouter.com/fil/blog/million-token-context-window-guide/) (artikulo)

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-glossary-cached-input-tokens&utm_content=page-cta) ·

**Mga source**

-   [OpenAI, gabay sa prompt caching](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [Anthropic, prompt caching (mga pricing multiplier at tagal ng cache)](https://platform.claude.com/docs/en/build-with-claude/prompt-caching)
-   [API reference ng BroadNet Inference, reasoning at cached token (Ingles)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-glossary-cached-input-tokens&utm_content=sources)
-   [Machine-readable na presyo ng BroadNet Inference (pricing.json) (Ingles)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-glossary-cached-input-tokens&utm_content=sources)
