---
title: "max_tokens trong API LLM là gì? Giới hạn đầu ra | BroadRouter"
description: "max_tokens giới hạn số token model được sinh trong một câu trả lời. Khác gì context window, các tên gọi mới của nó và vì sao model suy luận cần nhiều chỗ hơn."
url: https://broadrouter.com/vi/glossary/max-tokens/
lang: vi
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/glossary/max-tokens/) (cập nhật ngày 2026-11-14).

# max\_tokens (giới hạn token đầu ra)

Cập nhật 2026-11-14

max\_tokens là tham số của API LLM đặt số token tối đa mà model được sinh trong một phản hồi. Khi chạm giới hạn, việc sinh dừng lại và phản hồi được đánh dấu là bị cắt, ví dụ finish\_reason được đặt là "length".

Còn gọi là: giới hạn token đầu ra, số token tối đa, độ dài đầu ra tối đa, max\_tokens là gì, max\_completion\_tokens, max\_output\_tokens, output token limit, maximum output length

`max_tokens` là ngân sách đầu ra cho một câu trả lời. Nó bảo vệ bạn khỏi những câu trả lời dài vô tận, nhưng nếu đặt quá thấp, câu trả lời sẽ bị cắt hoặc không có gì trả về.

## Cách hoạt động

Model sinh từng [token](https://broadrouter.com/vi/glossary/token/) một. Khi số token chạm `max_tokens`, việc sinh dừng lại, kể cả giữa câu. Phản hồi sẽ cho biết lý do kết thúc:

| `finish_reason` | Ý nghĩa |
| --- | --- |
| `stop` | Model tự kết thúc |
| `length` | Đã chạm giới hạn `max_tokens` |
| `tool_calls` | Model đang yêu cầu gọi một tool |

Tham số này có nhiều tên. Chat Completions API của OpenAI hiện đánh dấu `max_tokens` là deprecated, thay bằng `max_completion_tokens`, một mức trần bao gồm cả đầu ra nhìn thấy và token suy luận. Responses API của OpenAI dùng `max_output_tokens`. Messages API của Anthropic dùng `max_tokens`. Nhiều nhà cung cấp tương thích OpenAI nhận `max_tokens`.

Prompt và đầu ra dùng chung một [context window](https://broadrouter.com/vi/glossary/context-window/). Nếu context window là 32.768 token và prompt là 30.000, tối đa chỉ 2.768 token có thể trả về, bất kể `max_tokens` là bao nhiêu.

## Vì sao quan trọng

-   **Kiểm soát chi phí.** Với key tính theo token, `max_tokens` là mức tối đa một câu trả lời có thể tốn cho phần đầu ra.
-   **Câu trả lời rỗng.** Ở model suy luận, phần suy nghĩ lấy từ cùng ngân sách. Giới hạn 100 có thể bị tiêu hết cho [token suy luận](https://broadrouter.com/vi/glossary/reasoning-tokens/), nên câu trả lời nhìn thấy bị rỗng và `finish_reason` là `length`.
-   **JSON hỏng.** Câu trả lời bị cắt khiến [đầu ra có cấu trúc](https://broadrouter.com/vi/glossary/structured-output/) không hoàn chỉnh và không parse được. Hãy kiểm tra `finish_reason` trước khi parse.

## Trên BroadNet Inference

DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B suy luận trước khi trả lời, và tài liệu BroadNet cho biết suy luận được tính vào `max_tokens`. Hãy cho từ 1.000 token trở lên, bỏ trống, hoặc giảm `reasoning_effort`:

```python
response = client.chat.completions.create(
    model="broadnet/glm-5.3",
    max_tokens=2000,
    messages=[{"role": "user", "content": "Summarize this contract clause."}],
)
if response.choices[0].finish_reason == "length":
    print("Cut off: raise max_tokens or lower reasoning_effort")
```

Nếu câu trả lời bị cắt, đoạn code trên in ra lời nhắc tăng `max_tokens` hoặc giảm `reasoning_effort`.

Kích thước context khác nhau theo model: 1.048.576 token cho DeepSeek V4.1 Flash và GLM 5.3, 262.144 cho Qwen3.8 27B và 32.768 cho BroadNet Gemma 4 VL 26B. Xem [các trang model](https://broadrouter.com/vi/models/) và [vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).

## Lỗi thường gặp

-   Chép một giới hạn nhỏ từ model không suy luận khi chuyển đổi. Xem [checklist chuyển đổi](https://broadrouter.com/vi/blog/openai-compatible-api-migration-checklist/).
-   Coi `length` là thành công. Hãy ghi log và thử lại với nhiều chỗ hơn.

## Câu hỏi thường gặp

### max\_tokens có giống context window không?

Không. Context window là tổng lượng model xử lý được, gồm prompt cộng đầu ra. max\_tokens chỉ giới hạn đầu ra, và prompt cộng max\_tokens vẫn phải nằm gọn trong context window.

### Có nên luôn đặt max\_tokens không?

Hãy đặt khi bạn cần một mức trần cứng về chi phí hoặc độ dài. Với model suy luận, hãy chừa nhiều chỗ, hoặc bỏ trống nếu giá trị mặc định của nhà cung cấp đủ lớn.

### max\_tokens và max\_completion\_tokens khác nhau thế nào?

OpenAI đã đánh dấu max\_tokens là deprecated trên Chat Completions, thay bằng max\_completion\_tokens, vốn tính rõ cả token suy luận. Nhiều nhà cung cấp tương thích OpenAI vẫn nhận max\_tokens.

## Xem thêm

-   [Token suy luận (reasoning tokens)](https://broadrouter.com/vi/glossary/reasoning-tokens/) (thuật ngữ)
-   [Context window (cửa sổ ngữ cảnh)](https://broadrouter.com/vi/glossary/context-window/) (thuật ngữ)
-   [Token đầu vào và đầu ra (input and output tokens)](https://broadrouter.com/vi/glossary/input-and-output-tokens/) (thuật ngữ)
-   [Đầu ra có cấu trúc (structured output)](https://broadrouter.com/vi/glossary/structured-output/) (thuật ngữ)
-   [JSON mode (chế độ JSON)](https://broadrouter.com/vi/glossary/json-mode/) (thuật ngữ)
-   [Chain-of-thought (CoT)](https://broadrouter.com/vi/glossary/chain-of-thought/) (thuật ngữ)
-   [finish\_reason (lý do kết thúc)](https://broadrouter.com/vi/glossary/finish-reason/) (thuật ngữ)
-   [Stop sequences (chuỗi dừng)](https://broadrouter.com/vi/glossary/stop-sequences/) (thuật ngữ)
-   [Vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/) (hướng dẫn)
-   [Dùng OpenAI Python SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-python-sdk/) (hướng dẫn)
-   [Chuyển sang API tương thích OpenAI: checklist khi chuyển đổi](https://broadrouter.com/vi/blog/openai-compatible-api-migration-checklist/) (bài viết)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-glossary-max-tokens&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu tham chiếu API OpenAI, tạo chat completion (max\_tokens và max\_completion\_tokens)](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)
-   [OpenAI, model suy luận (max\_output\_tokens và phản hồi chưa hoàn chỉnh)](https://developers.openai.com/api/docs/guides/reasoning)
-   [Tài liệu tham chiếu API BroadNet Inference, model suy luận (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-glossary-max-tokens&utm_content=sources#models)
