---
title: "Context window 1M token: khi nào có ích, chi phí bao nhiêu"
description: "Những gì vừa trong 1.048.576 token, chi phí trên DeepSeek V4.1 Flash, suy luận và cache thay đổi phép tính ra sao, và khi nào RAG vẫn là lựa chọn tốt hơn."
url: https://broadrouter.com/vi/blog/million-token-context-window-guide/
lang: vi
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/blog/million-token-context-window-guide/) (cập nhật ngày 2026-11-14).

# Khi nào context window 1M token đáng dùng (và khi nào không)

Đội ngũ BroadNet Inference · 4 phút đọc · Đăng ngày 2026-11-14

Context window 1M token cho phép một request chứa cả codebase, một bộ hợp đồng hay nhiều giờ bản chép lời, để model thấy mọi thứ cùng lúc thay vì các mảnh truy xuất. Nó đáng giá khi cần suy luận xuyên nhiều file và phân tích một lần; với tra cứu lặp lại trên kho tài liệu lớn, hay đổi, truy xuất rẻ hơn. DeepSeek V4.1 Flash và GLM 5.3 nhận 1.048.576 token.

## Ý chính

-   DeepSeek V4.1 Flash và GLM 5.3 nhận 1.048.576 token mỗi request, tính chung prompt và câu trả lời.
-   Long context thắng truy xuất khi câu trả lời phụ thuộc vào mối liên hệ giữa nhiều file hoặc tài liệu.
-   Truy xuất (RAG) vẫn thắng với nhiều lần tra cứu nhỏ trên kho tài liệu lớn, hay thay đổi.
-   Model dùng đầu vào dài không đồng đều. Nghiên cứu cho thấy độ chính xác giảm với dữ kiện bị chôn ở giữa và khi đầu vào dài ra.
-   Cache giảm chi phí gửi lại cùng một prompt dài; trên gói không giới hạn, prompt dài không tốn thêm gì.
-   Hãy chừa chỗ cho token suy luận trong window.

**Trong trang này**

1.  Một triệu token chứa được những gì?
2.  Model nào của BroadNet có context window 1M token?
3.  Khi nào window 1M token đáng dùng?
4.  Khi nào truy xuất vẫn là lựa chọn tốt hơn?
5.  Model có thực sự dùng hết window không?
6.  Một prompt một triệu token tốn bao nhiêu?
7.  Nên chừa bao nhiêu chỗ cho câu trả lời?
8.  Chuẩn bị codebase cho một prompt 1M token thế nào
9.  BroadNet Inference phù hợp ở đâu?

_[image: Light shining through towering cliffs made of stacked paper pages.]_

[Context window](https://broadrouter.com/vi/glossary/context-window/) đã tăng từ vài nghìn token lên hơn một triệu. [DeepSeek V4.1 Flash](https://broadrouter.com/vi/models/deepseek-v4.1-flash/) và [GLM 5.3](https://broadrouter.com/vi/models/glm-5.3/) trên BroadNet Inference nhận **1.048.576 token mỗi request**, tính chung prompt và câu trả lời. Điều đó thay đổi cách bạn có thể xây dựng hệ thống, nhưng không khiến mọi prompt tốt hơn.

## Một triệu token chứa được những gì?

Để ước lượng: 1.000 từ văn xuôi tiếng Anh vào khoảng 1,290 [token](https://broadrouter.com/vi/glossary/token/), tính trung bình trên năm tokenizer, trong [bộ dữ liệu hiệu suất tokenizer](https://broadrouter.com/data/tokenizer-efficiency/) của chúng tôi, nên một triệu token xấp xỉ 810,000 từ văn xuôi thông thường:

| Nội dung | Ước chừng |
| --- | --- |
| Một codebase cỡ vừa (hàng chục nghìn dòng) | Vừa, còn dư chỗ |
| Vài hợp đồng dài kèm phụ lục | Vừa |
| Bản chép lời các cuộc họp trong một ngày | Vừa |
| Một monorepo lớn kèm dependency | Thường không vừa; hãy chọn thư mục |

Số token phụ thuộc vào ngôn ngữ và nội dung. Code và văn bản tiếng Ả Rập thường tốn nhiều token trên mỗi ký tự hơn văn xuôi tiếng Anh. Hãy đo bằng khối `usage` trên một request thật thay vì ước tính, hoặc kiểm tra một mẫu bằng [công cụ tính context window](https://broadrouter.com/tools/context-window-calculator/).

## Model nào của BroadNet có context window 1M token?

| Model | Context window | Đầu vào | Đầu ra | Ảnh |
| --- | --- | --- | --- | --- |
| [DeepSeek V4.1 Flash](https://broadrouter.com/vi/models/deepseek-v4.1-flash/) | 1.048.576 | $0.175 | $0.52 | Có |
| [GLM 5.3](https://broadrouter.com/vi/models/glm-5.3/) | 1.048.576 | $0.78 | $3.46 | Không |
| [Qwen3.8 27B](https://broadrouter.com/vi/models/qwen3.8-27b/) | 262.144 | $0.175 | $2.17 | Có |
| [BroadNet Gemma 4 VL 26B](https://broadrouter.com/vi/models/gemma-4-vl-26b/) | 32.768 | $0.10 | $0.22 | Có |

Giá tính trên mỗi 1M token. GLM 5.3 có thêm tool calling và đầu ra có cấu trúc trên cùng window 1M.

## Khi nào window 1M token đáng dùng?

-   **Suy luận xuyên nhiều file.** “Vì sao test này thất bại?” thường phụ thuộc vào năm file mà không ai nghĩ tới việc truy xuất cùng nhau.
-   **Rà soát toàn bộ tài liệu.** Tìm mâu thuẫn giữa điều 4 và phụ lục B cần nhìn thấy cả hai.
-   **Phân tích một lần.** Với câu hỏi bạn chỉ hỏi một lần, công dựng index truy xuất lớn hơn những gì nó tiết kiệm được.
-   **Agent.** Một sub-agent đọc được toàn bộ module sẽ ít đoán sai hơn. Xem [chạy agent song song](https://broadrouter.com/vi/blog/run-parallel-coding-agents-flat-rate/).

## Khi nào truy xuất vẫn là lựa chọn tốt hơn?

Truy xuất thắng khi cần nhiều lần tra cứu nhỏ trên một thư viện lớn hơn mọi window, với nội dung thay đổi từng phút, và với câu trả lời tương tác nhanh, nơi việc đọc một prompt khổng lồ trước tiên gây thêm độ trễ. Nhiều hệ thống production làm cả hai: truy xuất 200.000 token liên quan nhất, rồi để một model long context suy luận trên tất cả. Toàn bộ cách quyết định, với chi phí mỗi truy vấn, độ trễ và recall đặt cạnh nhau, có trong [long context và RAG](https://broadrouter.com/vi/blog/long-context-vs-rag/).

## Model có thực sự dùng hết window không?

Không đồng đều. Các nghiên cứu nhất quán ở điểm này:

-   Bài báo [Lost in the Middle](https://arxiv.org/abs/2307.03172) (Liu và cộng sự) cho thấy hiệu năng “is often highest when relevant information occurs at the beginning or end of the input context” (bản dịch: thường cao nhất khi thông tin liên quan xuất hiện ở đầu hoặc cuối context đầu vào).
-   Báo cáo [Context Rot](https://www.trychroma.com/research/context-rot) của Chroma đã test 18 model và cho thấy “performance grows increasingly unreliable as input length grows” (bản dịch: hiệu năng ngày càng kém tin cậy khi độ dài đầu vào tăng), kể cả với tác vụ đơn giản.

Các nghiên cứu này không test các model trên BroadNet, nên hãy coi chúng là lời cảnh báo, không phải số đo. Quy tắc thực tế: một window nhận được một triệu token không có nghĩa mọi token đều được chú ý như nhau. Hãy đặt tài liệu quan trọng nhất gần đầu hoặc cuối, và test recall trên tài liệu của chính bạn.

## Một prompt một triệu token tốn bao nhiêu?

Trên key [trả theo mức dùng](https://broadrouter.com/vi/glossary/pay-as-you-go/), DeepSeek V4.1 Flash tính $0.175 mỗi 1M token đầu vào và $0.0055 mỗi 1M [token đầu vào đã cache](https://broadrouter.com/vi/glossary/cached-input-tokens/). Một prompt đầy một triệu token tốn khoảng $0.175 ở lần đầu, và ít hơn nhiều ở các lần gọi lặp lại khi prefix được cache. Xem [cách tăng tỷ lệ cache](https://broadrouter.com/vi/blog/cached-input-tokens-explained/).

[Công cụ tính prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/) cho thấy một lần cache hit tiết kiệm bao nhiêu với kích thước prompt của bạn. Một ví dụ tính sẵn: mười câu hỏi về cùng một bộ hợp đồng 800.000 token. Không có cache, đó là 8 triệu token với giá $0.175 mỗi 1M. Nếu tài liệu đứng đầu và giữ nguyên, lần gọi đầu đọc 800.000 token mới, còn chín lần sau có thể đọc phần lớn từ cache với giá $0.0055 mỗi 1M. Chỉ câu hỏi và câu trả lời thay đổi.

Trên gói không giới hạn, kích thước prompt không làm thay đổi hóa đơn: Full Moon có giá $60 mỗi tháng cho mỗi phiên và không đo token. Đó là lý do agent long context thường là lý do để chọn [gói giá cố định thay vì tính phí theo token](https://broadrouter.com/vi/blog/flat-rate-vs-pay-per-token-llm-api/).

## Nên chừa bao nhiêu chỗ cho câu trả lời?

Window bao gồm prompt **và** đầu ra, và trên model suy luận, đầu ra gồm cả phần thinking. Nếu bạn gửi 1.040.000 token prompt, chỉ còn khoảng 8.000 cho [suy luận](https://broadrouter.com/vi/glossary/reasoning-tokens/) và câu trả lời. Hãy giữ một khoảng dư, đặt [`max_tokens`](https://broadrouter.com/vi/glossary/max-tokens/) một cách tường minh, và đọc [vì sao model suy luận có thể trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).

## Chuẩn bị codebase cho một prompt 1M token thế nào

1.  **Loại bỏ những gì model không cần.** File lock, kết quả build, dependency vendored, ảnh và code sinh tự động tốn token và thêm nhiễu.
2.  **Đếm trước khi gửi.** Gửi một mẫu nhỏ, đọc `prompt_tokens` từ usage, rồi nhân lên.
3.  **Sắp xếp theo độ ổn định.** File hiếm khi thay đổi đặt trước, file đang sửa đặt sau, câu hỏi ở cuối cùng. Cách này giữ cho prefix cache được.
4.  **Gắn nhãn cho mọi file.** Bọc file trong các dấu rõ ràng như `=== path/to/file.py ===` để model có thể trích dẫn.
5.  **Yêu cầu trích dẫn.** “Hãy trích dòng bạn dựa vào” giúp giảm các lỗi sai đầy tự tin trên đầu vào khổng lồ.
6.  **Đo đạc.** Ghi log token prompt, token cache và thời gian tới token đầu tiên cho từng request. [Streaming](https://broadrouter.com/vi/guides/streaming-chat-completions/) hiển thị token đầu tiên ngay khi nó tới.

## BroadNet Inference phù hợp ở đâu?

Hai trong số các model chat của dịch vụ nhận 1.048.576 token mỗi request, và BroadNet không cắt context của bạn. Trên key tính theo token, cache giữ cho các prompt dài lặp lại ở mức chi phí hợp lý; trong một phiên của gói, kích thước prompt không ảnh hưởng tới hóa đơn. Nếu kho tài liệu của bạn lớn hơn nhiều so với một triệu token hoặc thay đổi từng phút, bạn vẫn cần truy xuất, và không kích thước window nào thay đổi được điều đó.

Công cụ miễn phí cho chủ đề này (tiếng Anh)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Công cụ miễn phí (tiếng Anh)](https://broadrouter.com/tools/)

## Thuật ngữ trong bài này

[Token](https://broadrouter.com/vi/glossary/token/)

Token là đơn vị văn bản mà model ngôn ngữ đọc và viết: một từ, một phần của từ, một dấu câu hoặc một chuỗi byte do tokenizer của model tạo ra. API LLM đếm, giới hạn và thường tính phí theo token.

[Context window (cửa sổ ngữ cảnh)](https://broadrouter.com/vi/glossary/context-window/)

Context window là số token tối đa mà model ngôn ngữ xử lý được trong một request. Nó bao gồm prompt, lịch sử hội thoại, định nghĩa tool, hình ảnh và đầu ra được sinh ra, kể cả token suy luận. Phần không vừa phải được cắt bớt, tóm tắt hoặc chia ra nhiều request.

[Tool calling (gọi tool, function calling)](https://broadrouter.com/vi/glossary/tool-calling/)

Tool calling, còn gọi là function calling, là tính năng của API LLM trong đó model trả về một yêu cầu có cấu trúc để chạy một hàm do nhà phát triển định nghĩa, kèm đối số JSON. Ứng dụng chạy hàm rồi gửi kết quả lại; model không bao giờ tự chạy code.

[Trả theo mức dùng (pay-as-you-go)](https://broadrouter.com/vi/glossary/pay-as-you-go/)

Trả theo mức dùng (pay-as-you-go) là mô hình giá mà bạn chỉ trả cho những gì đã dùng, đo theo đơn vị như token, request hoặc phút âm thanh, không có gói đăng ký hay cam kết tối thiểu. Hầu hết API LLM tính phí theo cách này, trừ vào số dư trả trước hoặc qua hóa đơn định kỳ.

[Độ trễ (latency)](https://broadrouter.com/vi/glossary/latency/)

Với API model ngôn ngữ, độ trễ (latency) là thời gian từ lúc gửi request tới khi nhận được token đầu ra cuối cùng. Nó bằng thời gian tới token đầu tiên cộng thời gian sinh, và thường được báo cáo theo percentile như p50 và p95 thay vì giá trị trung bình.

[Token đầu vào từ cache (cached input tokens)](https://broadrouter.com/vi/glossary/cached-input-tokens/)

Token đầu vào từ cache là token prompt mà nhà cung cấp LLM vừa xử lý gần đây và có thể dùng lại từ cache thay vì tính toán lại, thường là phần đầu lặp lại như system prompt hoặc tài liệu. Nhà cung cấp tính giá chúng thấp hơn token đầu vào mới.

[Token đầu vào và đầu ra (input and output tokens)](https://broadrouter.com/vi/glossary/input-and-output-tokens/)

Token đầu vào là token mà model ngôn ngữ đọc trong một request, gồm system prompt, lịch sử hội thoại, định nghĩa tool và hình ảnh. Token đầu ra là token nó sinh ra để trả lời, kể cả phần suy luận. API LLM thường tính giá riêng cho hai loại, và đầu ra thường đắt hơn.

[Tokenizer (bộ tách token)](https://broadrouter.com/vi/glossary/tokenizer/)

Tokenizer là thành phần chuyển văn bản thành chuỗi token ID số nguyên mà mô hình ngôn ngữ đọc, và chuyển các ID được sinh ra trở lại thành văn bản. Mỗi model có tokenizer riêng, nên cùng một văn bản có thể cho ra số token khác nhau trên các model khác nhau.

## Câu hỏi thường gặp

### BroadNet có cắt bớt prompt dài không?

Không. BroadNet không cắt context của bạn. Nếu prompt cộng max\_tokens vượt quá window của model, hãy rút ngắn prompt thay vì trông vào việc âm thầm cắt bớt.

### 1 triệu token là bao nhiêu từ?

Tùy ngôn ngữ và nội dung. Văn xuôi tiếng Anh đo được khoảng 129 token mỗi 100 từ trong bộ dữ liệu tokenizer của BroadRouter (1.000 từ vào khoảng 1,290 token, tính trung bình trên năm tokenizer), nên 1.048.576 token chứa khoảng 810,000 từ, hơn hẳn một nghìn trang. Văn bản kỹ thuật, code và tiếng Ả Rập cần nhiều token hơn, nên hãy đếm nội dung thật của bạn.

### Request 1M token có chậm không?

Nó bắt đầu chậm hơn request ngắn, vì model phải đọc toàn bộ prompt trước. Prefix đã cache thường giúp ích ở các lần gọi lặp lại. Hãy đo thời gian tới token đầu tiên trên prompt của chính bạn.

### LLM có thực sự dùng hết context window không?

Không đồng đều. Bài báo Lost in the Middle cho thấy độ chính xác thường cao nhất khi thông tin liên quan nằm ở đầu hoặc cuối đầu vào, và báo cáo Context Rot của Chroma cho thấy độ tin cậy giảm khi đầu vào dài ra. Hãy đặt tài liệu quan trọng ở hai đầu và test trên dữ liệu của bạn.

### Có nên bỏ RAG không?

Không nhất thiết. Hãy dùng long context khi model cần nhìn mọi thứ cùng nhau, và truy xuất khi nó cần vài dữ kiện từ một thư viện khổng lồ. Nhiều hệ thống kết hợp cả hai.

### Chuyện gì xảy ra nếu prompt lớn hơn context window?

BroadNet không cắt bớt giúp bạn, nên request sẽ không chạy như mong muốn. Hãy bỏ bớt file, tóm tắt các lượt cũ, hoặc chỉ truy xuất phần liên quan trước khi gửi.

## Đọc tiếp

-   [Token đầu vào từ cache: cách giảm hóa đơn API LLM](https://broadrouter.com/vi/blog/cached-input-tokens-explained/)
-   [Cách chạy coding agent song song trên API LLM giá cố định](https://broadrouter.com/vi/blog/run-parallel-coding-agents-flat-rate/)
-   [API LLM giá cố định hay trả theo token: phép tính hòa vốn](https://broadrouter.com/vi/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [Phần cứng GPU và cách phục vụ model của BroadNet, theo lời BroadNet](https://broadrouter.com/vi/blog/broadnet-gpu-fleet-and-serving/)
-   [Cache phản hồi API LLM để giảm chi phí: cache khớp chính xác (Python)](https://broadrouter.com/vi/blog/cache-llm-responses-cut-cost/)
-   [Hướng dẫn: Vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/)
-   [Hướng dẫn: Streaming chat completions và xử lý khi mất kết nối](https://broadrouter.com/vi/guides/streaming-chat-completions/)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-million-token-context-window-guide&utm_content=page-cta) ·

**Nguồn**

-   [File giá và độ dài context dạng máy đọc của BroadNet Inference (pricing.json) (tiếng Anh)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-million-token-context-window-guide&utm_content=sources)
-   [Tài liệu API BroadNet Inference (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-million-token-context-window-guide&utm_content=sources)
-   [Liu và cộng sự, Lost in the Middle: How Language Models Use Long Contexts (arXiv 2307.03172)](https://arxiv.org/abs/2307.03172)
-   [Chroma, Context Rot: How Increasing Input Tokens Impacts LLM Performance (tháng 7/2025)](https://www.trychroma.com/research/context-rot)
