---
title: "max_tokens cho model suy luận: cách lập ngân sách | BroadRouter"
description: "Vì sao model suy luận trả về câu trả lời trống khi max_tokens thấp, và cách định ngân sách từ phân vị đo được, context window và cơ chế retry tăng dần."
url: https://broadrouter.com/vi/blog/reasoning-model-max-tokens-budget/
lang: vi
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/blog/reasoning-model-max-tokens-budget/) (cập nhật ngày 2026-11-15).

# Đặt max\_tokens cho model suy luận: phương pháp lập ngân sách token

Đội ngũ BroadNet Inference · 6 phút đọc · Đăng ngày 2026-11-15

Trên model suy luận, max\_tokens giới hạn chung cả phần suy nghĩ lẫn câu trả lời, nên giới hạn quá chặt có thể kết thúc phản hồi trước khi có chữ nào hiện ra. Hãy đo tổng completion token theo từng loại tác vụ, đặt max\_tokens khoảng phân vị 95 cộng 20%, giữ prompt cộng max\_tokens trong context window, và retry phản hồi bị cắt với ngân sách gấp đôi tới một mức trần cứng.

## Ý chính

-   max\_tokens là mức trần, không phải khoản phí. Bạn trả tiền cho token được sinh ra, nên một mức trần rộng rãi không tốn gì với các phản hồi kết thúc sớm.
-   Mức trần chặt mới là thứ tốn tiền: phản hồi bị cắt vẫn tính phí phần suy nghĩ, không trả về câu trả lời, và phải gửi lại.
-   Lập ngân sách theo từng loại tác vụ từ log của chính bạn: phân vị 95 của completion token cộng 20% dư là điểm xuất phát tốt.
-   Token prompt cộng max\_tokens phải vừa context window: 262.144 token trên Qwen3.8 27B, 1.048.576 trên GLM 5.3 và DeepSeek V4.1 Flash.
-   Coi finish\_reason "length" là một tín hiệu: retry với ngân sách gấp đôi hoặc reasoning\_effort thấp hơn, có mức trần cứng.

**Trong trang này**

1.  Vì sao ngân sách cạn trước khi có câu trả lời?
2.  max\_tokens lớn hơn có tốn tiền hơn không?
3.  Đo nhu cầu của một tác vụ như thế nào?
4.  Context window giới hạn ngân sách như thế nào?
5.  Phải làm gì khi phản hồi vẫn bị cắt?
6.  Streaming thay đổi bức tranh ra sao?
7.  Nên gửi tên tham số nào?
8.  BroadNet Inference phù hợp ở đâu

Model suy luận suy nghĩ trước khi trả lời, và trên hầu hết API tương thích OpenAI, cả hai cùng lấy từ một ngân sách: `max_tokens`. Đặt nó như với model không suy luận, vài trăm token cho một câu trả lời ngắn, là sẽ có phản hồi trả về trống với `finish_reason: "length"`. Cách sửa nhanh nằm trong [vì sao model suy luận trả về câu trả lời trống](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/). Bài này là phương pháp đằng sau một ngân sách đáng tin: đo, định cỡ từ phân vị, tôn trọng context window, và xử lý những phản hồi vẫn bị cắt.

Về chi phí của suy luận và cách giảm nó, xem [token suy luận: vì sao bạn trả cho nhiều đầu ra hơn những gì thấy](https://broadrouter.com/vi/blog/reasoning-tokens-cost/).

## Vì sao ngân sách cạn trước khi có câu trả lời?

Model sinh token theo thứ tự: trước là phần suy luận, sau là câu trả lời hiển thị. Mọi token của cả hai đều tính vào `max_tokens`. Tài liệu BroadNet nói điều này cho DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B: “the reasoning counts toward max\_tokens” (bản dịch: phần suy luận được tính vào max\_tokens), và với giới hạn nhỏ thì “the answer comes back empty” (bản dịch: câu trả lời trả về trống). Tham chiếu Chat Completions của OpenAI định nghĩa `max_completion_tokens` theo cùng cách, là cận trên “including visible output tokens and reasoning tokens” (bản dịch: bao gồm token đầu ra hiển thị và token suy luận).

Vậy câu hỏi cần đặt ra không phải “câu trả lời của tôi dài bao nhiêu?” Mà là “suy luận và câu trả lời cộng lại dài bao nhiêu, cho tác vụ này, ở mức effort này?” Con số này dao động nhiều hơn người ta nghĩ. Hướng dẫn của OpenAI nói model của họ có thể sinh “anywhere from a few hundred to tens of thousands of reasoning tokens” (bản dịch: từ vài trăm đến hàng chục nghìn token suy luận), tùy bài toán.

## max\_tokens lớn hơn có tốn tiền hơn không?

Không. Đây là lý do phổ biến nhất khiến ngân sách bị đặt quá chặt. [`max_tokens`](https://broadrouter.com/vi/glossary/max-tokens/) là mức trần. Bạn bị tính phí theo số token thực sự được sinh ra. Một phản hồi cần 1.800 token tốn như nhau dù mức trần là 4.000 hay 40.000.

Thứ mà mức trần chặt thực sự gây tốn kém:

| Mức trần so với nhu cầu | Bạn trả gì | Bạn nhận gì |
| --- | --- | --- |
| Mức trần cao hơn nhu cầu | Số token được sinh ra | Câu trả lời |
| Mức trần thấp hơn nhu cầu | Toàn bộ mức trần, tất cả là suy luận | Không có gì dùng được, cộng một lần retry |

Lấy một ví dụ minh họa. Giả sử một phần tư số lời gọi của bạn cần hơn 1.000 token. Với `max_tokens=1000`, mỗi lời gọi đó tính phí 1.000 token đầu ra cho việc suy nghĩ, không trả về gì và bị retry. Tính trung bình trên tất cả lời gọi, mỗi lời gọi lãng phí thêm 250 token đầu ra, chưa kể chính các lần retry, cộng thêm độ trễ của request thứ hai. Với mức trần 4.000, không có gì bị lãng phí. Trên [Qwen3.8 27B](https://broadrouter.com/vi/models/qwen3.8-27b/), đầu ra có giá $2.17 mỗi 1M token, nên lãng phí sẽ cộng dồn khi khối lượng lớn.

Rủi ro thật của mức trần cao là phản hồi mất kiểm soát: model lặp vòng hoặc suy nghĩ quá mức và sinh nhiều hơn mức cần thiết rất nhiều. Một mức trần cứng sẽ chặn điều đó. Hãy chọn mức trần từ dữ liệu, như dưới đây.

## Đo nhu cầu của một tác vụ như thế nào?

Chạy các prompt thật cho một loại tác vụ với mức trần rộng rãi, và ghi lại completion token cùng tỷ lệ suy luận. Khi model có báo cáo, `usage.completion_tokens_details.reasoning_tokens` cho biết phần suy luận; tài liệu BroadNet có liệt kê trường này.

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
MODEL = "broadnet/qwen3.8-27b"

def measure(prompts, ceiling=16_000, **kw):
    """Run real prompts with a generous ceiling and return per-call token counts."""
    rows = []
    for p in prompts:
        r = client.chat.completions.create(model=MODEL, max_tokens=ceiling,
                                           messages=[{"role": "user", "content": p}], **kw)
        u, d = r.usage, r.usage.completion_tokens_details
        reasoning = (d.reasoning_tokens or 0) if d else 0
        rows.append({"reasoning": reasoning, "answer": u.completion_tokens - reasoning,
                     "finish": r.choices[0].finish_reason})
    return rows

def pct(values, q):
    values = sorted(values)
    return values[min(len(values) - 1, int(q * len(values)))]

def recommend(rows, margin=1.2):
    total = [r["reasoning"] + r["answer"] for r in rows]
    return {"p50": pct(total, 0.5), "p95": pct(total, 0.95), "max": max(total),
            "max_tokens": int(pct(total, 0.95) * margin),
            "cut_off": sum(r["finish"] == "length" for r in rows)}

# print(recommend(measure(my_prompts)))                       # default effort
# print(recommend(measure(my_prompts, reasoning_effort="low")))
```

Quy tắc để có con số đáng tin:

1.  **Mỗi lần chạy một loại tác vụ.** Phân loại, trích xuất, review code và lập kế hoạch có phân phối rất khác nhau. Một `max_tokens` chung cho tất cả hoặc phí tiền vào retry, hoặc để lọt các phản hồi mất kiểm soát.
2.  **Từ 50 prompt thật trở lên.** Phân vị 95 của mười mẫu chỉ đơn giản là mẫu lớn nhất.
3.  **Chạy ở mỗi mức effort bạn dùng.** `reasoning_effort="low"` làm thay đổi phân phối. BroadNet ghi nhận `low`; hãy thử các giá trị khác trước khi dựa vào chúng.
4.  **Nếu `cut_off` khác 0, hãy nâng mức trần và chạy lại.** Mẫu bị cắt che giấu độ dài thật của nó.
5.  **Chạy lại khi model hoặc prompt thay đổi.** Phiên bản model mới có thể suy nghĩ nhiều hơn hoặc ít hơn.

Sau đó đặt `max_tokens` cho từng tác vụ từ kết quả của `recommend()`. Phân vị 95 cộng 20% giúp phần lớn lời gọi nằm thấp hơn hẳn mức trần, và chỉ đưa những lời gọi dài hiếm hoi sang nhánh retry bên dưới. [Công cụ ngân sách token suy luận](https://broadrouter.com/tools/reasoning-token-budget/) miễn phí làm phép tính này ngay trên trình duyệt khi bạn đã có số liệu.

## Context window giới hạn ngân sách như thế nào?

Context window chứa cả prompt lẫn câu trả lời. Feed giá của BroadNet định nghĩa `context_length` là “the most tokens one request can hold, prompt and answer together” (bản dịch: số token tối đa một request chứa được, gồm cả prompt và câu trả lời). Do đó:

**max\_tokens ≤ độ dài context − token prompt**

| Model | Context | Chỗ cho max\_tokens với prompt 200.000 token |
| --- | --- | --- |
| [GLM 5.3](https://broadrouter.com/vi/models/glm-5.3/) | 1.048.576 | 848.576 |
| [DeepSeek V4.1 Flash](https://broadrouter.com/vi/models/deepseek-v4.1-flash/) | 1.048.576 | 848.576 |
| Qwen3.8 27B | 262.144 | 62.144 |

Điều này quan trọng với công việc context dài. Một agent đã nuôi lịch sử lên 250.000 token trên Qwen3.8 27B chỉ còn khoảng 12.000 token cho suy nghĩ và câu trả lời. Tác vụ context dài cũng thường cần suy luận nhiều hơn, nên hãy kiểm tra chỗ còn lại ngay lúc gọi, không phải chỉ một lần khi khởi động. [Context window](https://broadrouter.com/vi/glossary/context-window/) và [máy tính context window](https://broadrouter.com/tools/context-window-calculator/) giúp kiểm tra độ vừa.

## Phải làm gì khi phản hồi vẫn bị cắt?

Kiểm tra `finish_reason` ở mọi lời gọi. Nếu là `length`, câu trả lời bị thiếu hoặc chưa hoàn chỉnh, kể cả khi `content` có chút chữ. Đừng parse nó như thể đã hoàn chỉnh; một object JSON bị cắt cụt là nguồn lỗi phổ biến ở các bước sau ([structured output](https://broadrouter.com/vi/blog/structured-output-json-schema/)).

Retry với ngân sách gấp đôi, trong phạm vi context cho phép, tới một mức trần cứng:

```python
import json, urllib.request

FEED = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))
CONTEXT = {m["id"]: m.get("context_length") for m in FEED["models"]}

def ask(model, messages, budget=4_000, hard_cap=32_000, **kw):
    """Retry a cut-off reply with a doubled budget, never past the cap or the context window."""
    while True:
        r = client.chat.completions.create(model=model, messages=messages,
                                           max_tokens=budget, **kw)
        if r.choices[0].finish_reason != "length":
            return r
        room = CONTEXT[model] - r.usage.prompt_tokens        # context holds prompt + answer
        nxt = min(budget * 2, hard_cap, room)
        if nxt <= budget:
            raise RuntimeError(f"still cut off at max_tokens={budget}")
        print(f"cut off at {budget}, retrying with {nxt}")
        budget = nxt
```

Hai lựa chọn thay cho việc nhân đôi, tùy tác vụ:

-   **Retry với `reasoning_effort="low"`** và giữ nguyên ngân sách. Với tác vụ đơn giản, model thường suy nghĩ quá mức, và giảm effort sẽ khắc phục mà không cần mức trần lớn hơn.
-   **Chia nhỏ tác vụ.** Nếu một phản hồi liên tục chạm mức trần cao, thường là request đang đòi hỏi quá nhiều thứ cùng lúc.

Ghi log mọi lần bị cắt kèm loại tác vụ. Tỷ lệ tăng lên nghĩa là prompt, model hoặc dữ liệu đầu vào đã thay đổi, và cần đo lại ngân sách. Retry là các lần inference mới và bị tính phí lại, nên hãy giới hạn số lần thử, như trong [agent chạy dài: timeout và retry](https://broadrouter.com/vi/blog/long-running-agents-timeouts-retries/).

## Streaming thay đổi bức tranh ra sao?

Với `stream=True`, phần suy luận diễn ra trước token hiển thị đầu tiên, nên model suy luận có thể trông như bị treo lúc đầu. Trong giao diện chat, hãy hiện trạng thái “đang suy nghĩ” cho tới khi nội dung tới, và đặt timeout phía client có tính cả thời gian suy nghĩ, không chỉ thời gian trả lời.

Một số server còn stream chính văn bản suy luận, trong một trường riêng. Tên trường không theo chuẩn: API của DeepSeek dùng `reasoning_content`, còn vLLM đã đổi tên trường từ `reasoning_content` thành `reasoning`, kèm cảnh báo rằng code client cũ “could silently read an empty” (bản dịch: có thể âm thầm đọc phải một trường rỗng). Tài liệu BroadNet không ghi nhận trường văn bản suy luận nào, nên đừng xây tính năng dựa trên nó khi chưa kiểm tra phản hồi thô cho model của bạn. Nếu có đọc, hãy đọc một cách phòng thủ:

```python
for chunk in stream:
    if chunk.choices:
        delta = chunk.choices[0].delta
        thinking = getattr(delta, "reasoning", None) or getattr(delta, "reasoning_content", None)
        # log or display `thinking` only if your provider actually sends it
        if delta.content:
            print(delta.content, end="")
    elif chunk.usage:                                  # last chunk, with include_usage
        print("\nreasoning tokens:", getattr(chunk.usage.completion_tokens_details, "reasoning_tokens", None))
```

Usage trong chunk cuối cần `stream_options={"include_usage": True}`, điều mà BroadNet có ghi nhận. Xem thêm về stream trong [hướng dẫn streaming](https://broadrouter.com/vi/guides/streaming-chat-completions/) và [giải thích SSE](https://broadrouter.com/vi/blog/llm-streaming-sse-explained/).

## Nên gửi tên tham số nào?

| API | Tham số | Bao gồm suy luận |
| --- | --- | --- |
| OpenAI Chat Completions | `max_completion_tokens` (`max_tokens` đã ngừng khuyến nghị) | Có |
| OpenAI Responses | `max_output_tokens` | Có |
| BroadNet Inference (Chat Completions) | `max_tokens`, theo tài liệu | Có |
| Server vLLM | `max_tokens`, cộng `thinking_token_budget` tùy chọn | Có |

Khi chuyển code giữa các nhà cung cấp, hãy gửi tên mà nhà cung cấp ghi trong tài liệu, và xác nhận bằng một lời gọi thử rằng giới hạn có hiệu lực. Một giới hạn bị âm thầm bỏ qua trông vẫn ổn cho tới khi một phản hồi mất kiểm soát xuất hiện. [Checklist chuyển đổi](https://broadrouter.com/vi/blog/openai-compatible-api-migration-checklist/) bàn về các tham số khác cũng thay đổi.

## BroadNet Inference phù hợp ở đâu

Ba model suy luận của BroadNet báo cáo token suy luận trong `usage` khi model cung cấp, nên phương pháp đo ở trên chạy được nguyên văn. DeepSeek V4.1 Flash và GLM 5.3 cho nhiều chỗ nhất, với 1.048.576 token context. Qwen3.8 27B có 262.144. Nếu tác vụ không cần suy luận, [Gemma 4 VL 26B](https://broadrouter.com/vi/models/gemma-4-vl-26b/) không được liệt kê là model suy luận và tránh hẳn câu hỏi về ngân sách. Trên [gói DeepSeek V4.1 Flash](https://broadrouter.com/vi/guides/unlimited-llm-api-sessions/) giá cố định, token suy nghĩ không bị tính phí theo token, nhưng phản hồi bị cắt vẫn tốn thời gian, nên cách lập ngân sách tương tự vẫn áp dụng. BroadNet không ghi nhận giới hạn suy luận riêng; nếu bạn cần, hãy dùng nhà cung cấp hoặc server tự host có hỗ trợ.

Công cụ miễn phí cho chủ đề này (tiếng Anh)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Công cụ miễn phí (tiếng Anh)](https://broadrouter.com/tools/)

## Thuật ngữ trong bài này

[Token](https://broadrouter.com/vi/glossary/token/)

Token là đơn vị văn bản mà model ngôn ngữ đọc và viết: một từ, một phần của từ, một dấu câu hoặc một chuỗi byte do tokenizer của model tạo ra. API LLM đếm, giới hạn và thường tính phí theo token.

[Token suy luận (reasoning tokens)](https://broadrouter.com/vi/glossary/reasoning-tokens/)

Token suy luận (reasoning tokens) là token mà model suy luận sinh ra để giải quyết vấn đề trước khi viết câu trả lời hiển thị. Chúng thường được tính phí như token đầu ra, tính vào giới hạn đầu ra và context window, và có thể bị API ẩn đi hoặc tóm tắt.

[Context window (cửa sổ ngữ cảnh)](https://broadrouter.com/vi/glossary/context-window/)

Context window là số token tối đa mà model ngôn ngữ xử lý được trong một request. Nó bao gồm prompt, lịch sử hội thoại, định nghĩa tool, hình ảnh và đầu ra được sinh ra, kể cả token suy luận. Phần không vừa phải được cắt bớt, tóm tắt hoặc chia ra nhiều request.

[max\_tokens (giới hạn token đầu ra)](https://broadrouter.com/vi/glossary/max-tokens/)

max\_tokens là tham số của API LLM đặt số token tối đa mà model được sinh trong một phản hồi. Khi chạm giới hạn, việc sinh dừng lại và phản hồi được đánh dấu là bị cắt, ví dụ finish\_reason được đặt là "length".

[Token đầu vào và đầu ra (input and output tokens)](https://broadrouter.com/vi/glossary/input-and-output-tokens/)

Token đầu vào là token mà model ngôn ngữ đọc trong một request, gồm system prompt, lịch sử hội thoại, định nghĩa tool và hình ảnh. Token đầu ra là token nó sinh ra để trả lời, kể cả phần suy luận. API LLM thường tính giá riêng cho hai loại, và đầu ra thường đắt hơn.

[Chat Completions API](https://broadrouter.com/vi/glossary/chat-completions-api/)

Chat Completions API là endpoint HTTP của OpenAI, POST /v1/chat/completions, nhận tên model và danh sách message có gắn vai trò rồi trả về message tiếp theo của model. Cấu trúc request và response của nó đã trở thành định dạng chung mà các nhà cung cấp và SDK tương thích OpenAI dùng lại.

[API tương thích OpenAI (OpenAI-compatible API)](https://broadrouter.com/vi/glossary/openai-compatible-api/)

API tương thích OpenAI là một HTTP API nhận cùng định dạng request và phản hồi như OpenAI API, ví dụ POST /v1/chat/completions, nên SDK và công cụ của OpenAI dùng được nó chỉ bằng cách đổi base URL, API key và tên model.

[Đầu ra có cấu trúc (structured output)](https://broadrouter.com/vi/glossary/structured-output/)

Đầu ra có cấu trúc (structured output) là tính năng của API LLM buộc câu trả lời của model theo định dạng do lập trình viên chỉ định, thường là JSON Schema, để code parse được tin cậy. Nó chặt hơn JSON mode, vốn chỉ đảm bảo JSON hợp lệ chứ không đảm bảo một cấu trúc cụ thể.

## Câu hỏi thường gặp

### Vì sao model suy luận của tôi trả về phản hồi trống?

Model đã dùng hết ngân sách max\_tokens cho phần suy luận ẩn trước khi kịp viết câu trả lời. Khi đó finish\_reason là "length". Hãy tăng max\_tokens, hạ reasoning\_effort, hoặc cả hai. Bài này có link tới một hướng dẫn ngắn với cách sửa nhanh.

### Nên đặt max\_tokens bao nhiêu cho model suy luận?

Hãy đo trước. Chạy từ 50 prompt thật trở lên với mức trần rộng rãi, lấy phân vị 95 của completion\_tokens cho tác vụ đó và cộng thêm khoảng 20%. Tài liệu BroadNet đưa ra mức sàn 1.000 token trở lên; OpenAI gợi ý dành 25.000 token khi mới bắt đầu dùng model của họ.

### max\_tokens cao hơn có tốn tiền hơn không?

Bản thân nó thì không. Bạn bị tính phí theo số token model sinh ra, không phải theo mức trần. Mức trần cao chỉ tốn hơn khi phản hồi lẽ ra đã bị cắt, và khi đó phản hồi bị cắt cũng đã khiến bạn tốn một lần retry.

### max\_completion\_tokens có giống max\_tokens không?

Trên OpenAI, max\_completion\_tokens thay thế max\_tokens đã ngừng khuyến nghị và ghi rõ là bao gồm token suy luận. Nhiều nhà cung cấp tương thích OpenAI lại ghi nhận max\_tokens. Tài liệu BroadNet dùng max\_tokens và nói suy luận được tính vào đó.

### Có giới hạn riêng phần suy luận và phần câu trả lời được không?

Chỉ khi server hỗ trợ. vLLM có tham số thinking\_token\_budget, và một số nhà cung cấp có tham số riêng. BroadNet ghi nhận việc đặt reasoning\_effort là low, không có giới hạn suy luận riêng, nên hãy lập ngân sách cho cả hai cùng lúc.

## Đọc tiếp

-   [Token suy luận: vì sao bạn trả cho nhiều đầu ra hơn những gì thấy](https://broadrouter.com/vi/blog/reasoning-tokens-cost/)
-   [Giải thích streaming LLM: chunk SSE, delta, usage và hủy](https://broadrouter.com/vi/blog/llm-streaming-sse-explained/)
-   [JSON mode và json\_schema: đầu ra có cấu trúc đáng tin cậy](https://broadrouter.com/vi/blog/structured-output-json-schema/)
-   [Agent chạy dài: timeout, retry và checkpoint đứng vững](https://broadrouter.com/vi/blog/long-running-agents-timeouts-retries/)
-   [Chuyển sang API tương thích OpenAI: checklist khi chuyển đổi](https://broadrouter.com/vi/blog/openai-compatible-api-migration-checklist/)
-   [Phần cứng GPU và cách phục vụ model của BroadNet, theo lời BroadNet](https://broadrouter.com/vi/blog/broadnet-gpu-fleet-and-serving/)
-   [Cache phản hồi API LLM để giảm chi phí: cache khớp chính xác (Python)](https://broadrouter.com/vi/blog/cache-llm-responses-cut-cost/)
-   [Hướng dẫn: Vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/)
-   [Hướng dẫn: Streaming chat completions và xử lý khi mất kết nối](https://broadrouter.com/vi/guides/streaming-chat-completions/)
-   [Hướng dẫn: Dùng OpenAI Python SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-python-sdk/)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-reasoning-model-max-tokens-budget&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu tham chiếu API BroadNet Inference: suy luận tính vào max\_tokens, từ 1.000 token trở lên, reasoning\_effort low, các trường usage (kiểm tra ngày 2026-11-15) (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-reasoning-model-max-tokens-budget&utm_content=sources)
-   [Tham chiếu trường pricing.json của BroadNet: context\_length chứa cả prompt và câu trả lời (kiểm tra ngày 2026-11-15) (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-reasoning-model-max-tokens-budget&utm_content=sources#pricing-json)
-   [Hướng dẫn suy luận của OpenAI: phản hồi không hoàn chỉnh, dành ít nhất 25.000 token khi mới bắt đầu (kiểm tra ngày 2026-11-15)](https://developers.openai.com/api/docs/guides/reasoning)
-   [Tham chiếu Chat Completions của OpenAI: max\_completion\_tokens bao gồm token suy luận; max\_tokens đã ngừng khuyến nghị (kiểm tra ngày 2026-11-15)](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)
-   [Tài liệu API DeepSeek, chế độ thinking: trường reasoning\_content, các mức effort (kiểm tra ngày 2026-11-15)](https://api-docs.deepseek.com/guides/thinking_mode)
-   [Tài liệu vLLM, đầu ra suy luận: trường reasoning (trước đây là reasoning\_content), thinking\_token\_budget (kiểm tra ngày 2026-11-15)](https://docs.vllm.ai/en/latest/features/reasoning_outputs.html)
