---
title: "Token cache là gì? Prompt caching giúp giảm chi phí API"
description: "Đầu vào từ cache chỉ tốn một phần nhỏ giá đầu vào thường. Cách tính phí prompt caching, cách đọc cached_tokens trong usage và cách cấu trúc prompt để cache trúng."
url: https://broadrouter.com/vi/blog/cached-input-tokens-explained/
lang: vi
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/blog/cached-input-tokens-explained/) (cập nhật ngày 2026-11-15).

# Token đầu vào từ cache: cách giảm hóa đơn API LLM

Đội ngũ BroadNet Inference · 5 phút đọc · Đăng ngày 2026-11-14 · Cập nhật 2026-11-15

Token đầu vào từ cache là token prompt mà nhà cung cấp đã xử lý và có thể dùng lại, nên được tính giá thấp hơn. Trên BroadNet Inference, DeepSeek V4.1 Flash tính đầu vào từ cache $0.0055 cho 1 triệu token, so với $0.175 cho đầu vào mới. Để được giảm giá, hãy đặt phần cố định của prompt lên đầu và giữ nó giống hệt giữa các lần gọi.

## Ý chính

-   Đầu vào từ cache của DeepSeek V4.1 Flash: $0.0055 cho 1 triệu token; đầu vào mới: $0.175.
-   Khối usage báo cáo `prompt_tokens_details.cached_tokens` khi model có báo cáo, nên bạn đo được tỷ lệ cache của mình.
-   Đặt nội dung cố định lên trước (system prompt, công cụ, tài liệu) và nội dung thay đổi ở cuối.
-   Cache so khớp từ đầu prompt. Chỉ một token thay đổi ở phía trước cũng biến mọi thứ phía sau thành đầu vào mới.
-   Agent gửi lại cùng một context repository ở mỗi lượt được lợi nhiều nhất.

**Trong trang này**

1.  Token đầu vào từ cache là gì?
2.  Token cache trên BroadNet Inference giá bao nhiêu?
3.  Cache tiết kiệm được bao nhiêu? Ví dụ tính toán
4.  Làm sao xem token cache trong phản hồi API?
5.  Prompt caching của OpenAI, Anthropic và DeepSeek khác nhau thế nào?
6.  Điều gì làm giảm tỷ lệ cache?
7.  Khi nào cache không còn quan trọng?
8.  Vì sao cache quan trọng hơn khi context dài?
9.  BroadNet Inference phù hợp ở đâu?

Phần lớn những gì một agent gửi tới LLM đều giống nhau ở mỗi lượt: system prompt, định nghĩa công cụ, các file nó đang làm việc và cuộc hội thoại tới lúc đó. Chỉ tin nhắn cuối cùng là mới. Prompt caching nghĩa là nhà cung cấp không tính đủ giá cho phần lặp lại đó.

## Token đầu vào từ cache là gì?

Mỗi request gồm [token đầu vào và đầu ra](https://broadrouter.com/vi/glossary/input-and-output-tokens/). Trước khi trả lời, model phải xử lý toàn bộ prompt. Nếu một request trước đó bắt đầu bằng đúng những token y hệt, hệ thống phục vụ có thể dùng lại phần việc đó thay vì làm lại. Phần được dùng lại được báo cáo là [token đầu vào từ cache](https://broadrouter.com/vi/glossary/cached-input-tokens/) và tính giá thấp hơn.

Từ cách hoạt động này suy ra hai điều:

-   **Chỉ phần đầu (prefix) được cache.** Việc so khớp chạy từ token đầu tiên trở đi và dừng ở chỗ khác biệt đầu tiên.
-   **Câu trả lời không bao giờ được cache.** Model vẫn sinh đầu ra mới, tính đủ giá đầu ra.

## Token cache trên BroadNet Inference giá bao nhiêu?

Giá cho 1 triệu token, theo file giá công khai:

| Model | Đầu vào mới | Đầu vào từ cache | Đầu ra |
| --- | --- | --- | --- |
| [DeepSeek V4.1 Flash](https://broadrouter.com/vi/models/deepseek-v4.1-flash/) | $0.175 | $0.0055 | $0.52 |
| [GLM 5.3](https://broadrouter.com/vi/models/glm-5.3/) | $0.78 | $0.173 | $3.46 |
| [Qwen3.8 27B](https://broadrouter.com/vi/models/qwen3.8-27b/) | $0.175 | $0.0435 | $2.17 |

Với DeepSeek V4.1 Flash, khoảng cách rất lớn: hãy so $0.0055 cho 1 triệu token cache với $0.175 cho 1 triệu token mới. Với một agent gửi lại repository 200.000 token ở mỗi lượt, tỷ lệ cache quyết định phần lớn hóa đơn.

## Cache tiết kiệm được bao nhiêu? Ví dụ tính toán

Một coding agent gửi prompt 200.000 token 100 lần trong một ngày làm việc. Tức là 20 triệu token đầu vào mỗi ngày.

| Tỷ lệ cache | Token đầu vào mới | Token đầu vào từ cache |
| --- | --- | --- |
| 0% | 20M, giá $0.175 cho 1 triệu | 0 |
| 50% | 10M, giá $0.175 cho 1 triệu | 10M, giá $0.0055 cho 1 triệu |
| 90% | 2M, giá $0.175 cho 1 triệu | 18M, giá $0.0055 cho 1 triệu |

Công thức tính tiền đầu vào mỗi ngày là `new tokens (M) × input price + cached tokens (M) × cached price`. Ở mức 90%, 18M trong số 20M token đầu vào được tính theo giá cache thay vì giá đầu vào đầy đủ, nên khoảng cách giữa hai mức giá càng lớn thì bạn càng tiết kiệm được nhiều trên phần đầu vào của hóa đơn. Đầu ra không đổi. Hãy thử số liệu của bạn trong [công cụ tính prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/).

## Làm sao xem token cache trong phản hồi API?

Tài liệu tham chiếu API của BroadNet cho biết khi model có báo cáo, đối tượng `usage` chứa `prompt_tokens_details.cached_tokens`: số token prompt được đọc từ cache và tính theo giá cache. Khi dùng [streaming](https://broadrouter.com/vi/glossary/streaming/), hãy yêu cầu usage ở chunk cuối:

```python
from openai import OpenAI
import os

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
messages = [
    {"role": "system", "content": "You are a code reviewer."},  # stable prefix: keep it identical
    {"role": "user", "content": "Review the diff below."},
]
stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=messages,
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.usage:
        u = chunk.usage
        cached = (u.prompt_tokens_details.cached_tokens if u.prompt_tokens_details else 0) or 0
        print(f"prompt={u.prompt_tokens} cached={cached} rate={cached / max(1, u.prompt_tokens):.0%}")
```

Hãy ghi log tỷ lệ đó cho từng request trong một ngày. Nó cho biết bạn thực sự trả bao nhiêu, và đó là con số cần nhập vào [công cụ tính prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/). Xem thêm về usage khi streaming trong [hướng dẫn streaming](https://broadrouter.com/vi/guides/streaming-chat-completions/).

## Prompt caching của OpenAI, Anthropic và DeepSeek khác nhau thế nào?

Cache chưa được chuẩn hóa. Đây là những gì tài liệu chính thức ghi khi chúng tôi truy cập ngày 14 tháng 11 năm 2026:

|  | OpenAI | Anthropic | DeepSeek (API trực tiếp) |
| --- | --- | --- | --- |
| Bật | Mặc định cho các model được hỗ trợ | Tự bật bằng trường `cache_control` (tự động hoặc theo từng khối) | Mặc định cho mọi người dùng |
| Prompt tối thiểu | 1.024 token trên GPT-5.6 trở về sau | 512 đến 4.096 token, tùy model | Không nêu mức tối thiểu |
| Thời gian giữ cache | Mặc định 30 phút trên GPT-5.6 trở về sau; có tùy chọn 12 giờ | Mặc định 5 phút, 1 giờ nếu trả thêm | Cố gắng tối đa (best effort); bị xóa khi không dùng, “a few hours to a few days” (bản dịch: từ vài giờ đến vài ngày) |
| Ghi cache | 1,25× giá đầu vào (30 phút) hoặc 2,5× (12 giờ) trên GPT-5.6 trở về sau | 1,25× giá đầu vào cho 5 phút, 2× cho 1 giờ | Không nhắc tới phí ghi |
| Đọc cache | 0,1× giá đầu vào trên GPT-5.6 trở về sau (0,05× trên GPT-6.1 Sol và Terra) | 0,1× giá đầu vào trên phần lớn model, thấp hơn ở một số model | Giá “cache hit” (bản dịch: trúng cache) riêng |
| Trường usage | `cached_tokens` trong phần chi tiết token | `cache_read_input_tokens` | `prompt_cache_hit_tokens` |

Nguồn: [hướng dẫn prompt caching của OpenAI](https://developers.openai.com/api/docs/guides/prompt-caching), [tài liệu prompt caching của Anthropic](https://platform.claude.com/docs/en/build-with-claude/prompt-caching) và [tài liệu context caching của DeepSeek](https://api-docs.deepseek.com/guides/kv_cache). Ở những nơi ghi cache tốn thêm phí, một cache được ghi nhưng không bao giờ được đọc sẽ tốn hơn cả không dùng cache. Cache chỉ có lợi với những prompt bạn thực sự lặp lại. Để so sánh giá niêm yết theo model, xem [bảng giá API LLM](https://broadrouter.com/vi/llm-api-pricing/).

## Điều gì làm giảm tỷ lệ cache?

Cache so khớp một phần đầu chính xác, nên bất cứ thứ gì thay đổi sớm trong prompt đều biến phần còn lại thành mới. Các nguyên nhân thường gặp:

-   timestamp, request ID hoặc tên người dùng ở gần đầu system prompt;
-   định nghĩa công cụ hoặc JSON được serialize với thứ tự khóa khác nhau ở mỗi lần gọi, làm thay đổi [token](https://broadrouter.com/vi/glossary/token/);
-   agent viết lại hoặc tóm tắt lịch sử thay vì nối thêm vào sau;
-   khoảng nghỉ dài, sau đó cache đã hết hạn.

Cách sửa là cố định thứ tự các lớp (system prompt, công cụ, tài liệu, lịch sử, tin nhắn mới), với mỗi lớp giống hệt từng byte giữa các lần gọi. Hướng dẫn [cách cấu trúc prompt để phần đầu được cache](https://broadrouter.com/vi/blog/prompt-structure-for-caching/) trình bày bố cục đó bằng code, kèm một bài test chứng minh phần đầu được dùng lại.

## Khi nào cache không còn quan trọng?

Với gói giá cố định, hóa đơn hoàn toàn không phụ thuộc vào token. Full Moon có giá $60 mỗi tháng cho mỗi phiên, dùng DeepSeek V4.1 Flash không giới hạn. Nếu agent của bạn đã vượt [điểm hòa vốn](https://broadrouter.com/vi/blog/flat-rate-vs-pay-per-token-llm-api/), tỷ lệ cache không còn là vấn đề chi phí. Với prompt dài, các thói quen trên vẫn giúp tăng tốc, nên đằng nào cũng đáng giữ.

## Vì sao cache quan trọng hơn khi context dài?

DeepSeek V4.1 Flash và GLM 5.3 nhận tới 1.048.576 token mỗi request. Chính cache làm cho prompt rất dài trở nên vừa túi tiền trên key tính theo token, vì phần lớn, lặp lại của [cửa sổ context](https://broadrouter.com/vi/glossary/context-window/) được tính theo giá cache. Xem [khi nào cửa sổ context 1 triệu token đáng dùng](https://broadrouter.com/vi/blog/million-token-context-window-guide/).

## BroadNet Inference phù hợp ở đâu?

BroadNet công bố giá đầu vào từ cache cho từng model chat có hỗ trợ, và báo cáo token cache trong usage khi model có báo cáo, nên bạn đo được tỷ lệ của mình trước khi cam kết. BroadNet không công bố thời gian giữ cache hay độ dài prompt tối thiểu, nên hãy đo chúng trên traffic của chính bạn. Nếu agent chạy cả ngày, một gói giá cố định sẽ xóa hẳn câu hỏi này.

Công cụ miễn phí cho chủ đề này (tiếng Anh)

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [Prompt caching savings calculator](https://broadrouter.com/tools/prompt-caching-calculator/) Bill with and without caching, by prefix share and hit rate.
-   [Prompt token diff](https://broadrouter.com/tools/prompt-token-diff/) Two prompt versions side by side: changed lines, exact token delta and the monthly cost difference.

[Công cụ miễn phí (tiếng Anh)](https://broadrouter.com/tools/)

## Thuật ngữ trong bài này

[Token](https://broadrouter.com/vi/glossary/token/)

Token là đơn vị văn bản mà model ngôn ngữ đọc và viết: một từ, một phần của từ, một dấu câu hoặc một chuỗi byte do tokenizer của model tạo ra. API LLM đếm, giới hạn và thường tính phí theo token.

[Token đầu vào từ cache (cached input tokens)](https://broadrouter.com/vi/glossary/cached-input-tokens/)

Token đầu vào từ cache là token prompt mà nhà cung cấp LLM vừa xử lý gần đây và có thể dùng lại từ cache thay vì tính toán lại, thường là phần đầu lặp lại như system prompt hoặc tài liệu. Nhà cung cấp tính giá chúng thấp hơn token đầu vào mới.

[Token đầu vào và đầu ra (input and output tokens)](https://broadrouter.com/vi/glossary/input-and-output-tokens/)

Token đầu vào là token mà model ngôn ngữ đọc trong một request, gồm system prompt, lịch sử hội thoại, định nghĩa tool và hình ảnh. Token đầu ra là token nó sinh ra để trả lời, kể cả phần suy luận. API LLM thường tính giá riêng cho hai loại, và đầu ra thường đắt hơn.

[Streaming (trả phản hồi dạng luồng)](https://broadrouter.com/vi/glossary/streaming/)

Streaming là cách trả phản hồi của model ngôn ngữ thành từng chunk nhỏ ngay trong lúc nó đang được sinh, thay vì một câu trả lời trọn vẹn ở cuối. Các API tương thích OpenAI stream qua server-sent events khi request đặt stream là true.

[System prompt (lời nhắc hệ thống)](https://broadrouter.com/vi/glossary/system-prompt/)

System prompt là đoạn chỉ dẫn mà ứng dụng gửi cho model ngôn ngữ trước cuộc hội thoại, thường là tin nhắn có vai trò system hoặc developer. Nó đặt vai trò, quy tắc, giọng điệu và định dạng đầu ra, và model được kỳ vọng tuân theo nó hơn các tin nhắn người dùng mâu thuẫn.

[Tool calling (gọi tool, function calling)](https://broadrouter.com/vi/glossary/tool-calling/)

Tool calling, còn gọi là function calling, là tính năng của API LLM trong đó model trả về một yêu cầu có cấu trúc để chạy một hàm do nhà phát triển định nghĩa, kèm đối số JSON. Ứng dụng chạy hàm rồi gửi kết quả lại; model không bao giờ tự chạy code.

[AI coding agent](https://broadrouter.com/vi/glossary/coding-agent/)

AI coding agent là công cụ phần mềm trong đó một model ngôn ngữ làm việc trên codebase theo vòng lặp: đọc file, sửa file, chạy lệnh như test, đọc kết quả và quyết định bước tiếp theo cho tới khi xong task hoặc chạm giới hạn.

## Câu hỏi thường gặp

### Tôi có cần tự bật prompt caching không?

Tùy nhà cung cấp. OpenAI và DeepSeek tự động cache; Anthropic cần trường cache\_control. Trên BroadNet Inference, hãy xem khối usage: khi model báo cáo token cache, chúng xuất hiện ở prompt\_tokens\_details.cached\_tokens và được tính theo giá đầu vào từ cache.

### Làm sao kiểm tra prompt caching có hoạt động không?

Hãy yêu cầu usage ở mọi request và tính cached\_tokens chia cho prompt\_tokens. Nếu tỷ lệ gần bằng 0 ở lần gọi thứ hai của một prompt dài lặp lại, nghĩa là có gì đó ở phần đầu prompt đang thay đổi giữa các lần gọi.

### Vì sao tỷ lệ cache của tôi thấp?

Thường là vì có gì đó ở phần đầu prompt thay đổi sau mỗi lần gọi, như timestamp, request ID hoặc danh sách công cụ bị đổi thứ tự. Hãy chuyển nội dung thay đổi xuống cuối.

### Prompt caching và response caching khác nhau thế nào?

Prompt caching dùng lại phần việc nhà cung cấp đã làm cho phần đầu prompt lặp lại, và model vẫn viết câu trả lời mới. Response caching là thứ bạn tự xây, lưu toàn bộ câu trả lời và trả lại chúng cho các câu hỏi giống hệt mà không gọi model.

### Token cache có miễn phí không?

Không. Chúng được tính giá thấp hơn chứ không phải bằng không. Với DeepSeek V4.1 Flash, đầu vào từ cache là $0.0055 cho 1 triệu token, còn đầu ra tính đủ giá.

### Cache có quan trọng với gói không giới hạn không?

Không ảnh hưởng tới hóa đơn, vì phiên của gói không đo token. Nhưng trên nhiều hệ thống phục vụ, cache vẫn rút ngắn thời gian tới token đầu tiên với prompt dài, nên các thói quen này vẫn có ích.

## Đọc tiếp

-   [Cách cấu trúc prompt để phần đầu được cache](https://broadrouter.com/vi/blog/prompt-structure-for-caching/)
-   [Giá API LLM: cách tính token đầu vào, cache, đầu ra và suy luận](https://broadrouter.com/vi/blog/llm-api-pricing-explained/)
-   [API LLM giá cố định hay trả theo token: phép tính hòa vốn](https://broadrouter.com/vi/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [Khi nào context window 1M token đáng dùng (và khi nào không)](https://broadrouter.com/vi/blog/million-token-context-window-guide/)
-   [Cache phản hồi API LLM để giảm chi phí: cache khớp chính xác (Python)](https://broadrouter.com/vi/blog/cache-llm-responses-cut-cost/)
-   [Thay đổi giá API LLM tháng 10/2026: 3 lần tăng, không lần giảm nào](https://broadrouter.com/vi/blog/llm-api-price-changes-october-2026/)
-   [Giá API LLM thay đổi thường xuyên đến mức nào? 3 năm trang giá lưu trữ](https://broadrouter.com/vi/blog/how-often-llm-api-prices-change/)
-   [Hướng dẫn: Streaming chat completions và xử lý khi mất kết nối](https://broadrouter.com/vi/guides/streaming-chat-completions/)
-   [Hướng dẫn: Dùng OpenAI Python SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-python-sdk/)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-cached-input-tokens-explained&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu tham chiếu API BroadNet Inference, token suy luận và token cache (truy cập ngày 2026-11-14) (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-cached-input-tokens-explained&utm_content=sources)
-   [Bảng giá dạng máy đọc được của BroadNet Inference (pricing.json, truy cập ngày 2026-11-14) (tiếng Anh)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-cached-input-tokens-explained&utm_content=sources)
-   [Hướng dẫn prompt caching của OpenAI (truy cập ngày 2026-11-14)](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [Tài liệu prompt caching của Anthropic (truy cập ngày 2026-11-14)](https://platform.claude.com/docs/en/build-with-claude/prompt-caching)
-   [Tài liệu API DeepSeek, context caching (truy cập ngày 2026-11-14)](https://api-docs.deepseek.com/guides/kv_cache)
