你发了一个简短的问题,得到两行回答,账单上却显示 1,400 个输出 token。这并没有出错。模型在回答之前先思考了,而思考也要计费。本文解释思考 token 怎样计数、在各个模型上要花多少钱,以及控制它们的四个设置。
什么是思考 token?
思考(推理)模型会先写出一段内部的思维链,然后才是可见的回答。两者来自同一次生成。思考部分由思考 token 组成。在标准的 chat completions 响应中,回答在 message.content 里,而思考只计数、不显示。
OpenAI 的推理指南把规则说得很直白:思考 token “still occupy space in the model’s context window and are billed as” output tokens(译文:仍然占用模型上下文窗口的空间,并按输出 token 计费)。其他服务商也遵循同样的规则。
思考 token 怎么计费?
它们属于 completion_tokens,所以按输出价格计费。而输出正是贵的那一项:
| 模型 | 先思考 | 每百万输出 | 每百万输入 |
|---|---|---|---|
| DeepSeek V4.1 Flash | 是 | $0.52 | $0.175 |
| GLM 5.3 | 是 | $3.46 | $0.78 |
| Qwen3.8 27B | 是 | $2.17 | $0.175 |
| Gemma 4 VL 26B | 未列出 | $0.22 | $0.10 |
以上是 BroadNet Inference 的价格,同步于 2026-11-14。其他服务商对同一模型的收费见大模型 API 价格表,例如各服务商 GLM 5.3 价格。
思考会让账单增加多少?
以一个只返回一个单词标签的分类器为例,可见 token 大约 10 个。如果模型先思考了 1,000 个 token,那么输出账单的 99% 都是思考。
放大到规模上看:1,000 条回复、每条 1,000 个思考 token,就多出 100 万输出 token。 这在 DeepSeek V4.1 Flash 上要 $0.52,在 Qwen3.8 27B 上要 $2.17,在 GLM 5.3 上要 $3.46,而且是在可见回答之外额外产生的。
具体多少因任务而异。困难的数学题或涉及多个文件的代码推理,可能要几千个 token;一句问候几乎不需要思考。所以要测量。
怎样测量思考 token?
只要模型提供了数量,usage 字段就会报告它们:
r = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
messages=[{"role": "user", "content": "Is 'refund my order' a billing or shipping intent?"}],
max_tokens=1000,
)
u = r.usage
reasoning = (u.completion_tokens_details.reasoning_tokens or 0) if u.completion_tokens_details else 0
print("output:", u.completion_tokens, "reasoning:", reasoning,
"share:", round(reasoning / max(u.completion_tokens, 1), 2))
按任务类型记录一周。你通常会发现,大部分思考集中在少数几种任务上。使用流式输出时,加上 stream_options: {"include_usage": true};数量会在最后一个数据块中返回(流式输出指南)。
控制思考费用的四种方法
1. 简单任务调低 reasoning_effort
reasoning_effort 让模型少想一些。BroadNet 的指南在分类、信息抽取和格式化任务上使用 low:
client.chat.completions.create(model="broadnet/deepseek-v4.1-flash", reasoning_effort="low",
max_tokens=1000, messages=msgs)
OpenAI 在自家模型上记录了更多取值,从 none 和 minimal,到 low、medium 和 high,再到 xhigh 和 max,并指出 “some models support only a subset”(译文:部分模型只支持其中一部分)。请确认你的模型接受哪些取值,并在相同样本上比较调整前后的输出 token 数。
2. 把 max_tokens 当作上限,而不是压缩手段
max_tokens 同时限制思考和回答。它能阻止回复失控,但设得太低时,模型可能把全部额度都花在思考上,返回一个 finish_reason: "length" 的空回答。你为这些思考付了费,还得重试。BroadNet 建议思考模型设置 1,000 token 或以上。参见为什么思考模型会返回空回答。
3. 把简单步骤路由到不思考的模型
不是每一步都需要思考。格式化 JSON、重命名字段或回答常见问题查询,可以交给 Gemma 4 VL 26B,每百万输出 $0.22,BroadNet 没有为它列出思考功能。把思考模型留给规划、调试和多步骤的回答。在路由之前,先用你自己的样本测试质量。
4. 从提示词中删掉“一步一步思考”
思考模型本来就会思考。再要求它写出可见的逐步推理,会让它写两遍:一遍隐藏,一遍在回答里。直接要求它按你需要的格式给出最终答案。
什么任务用什么设置?
| 任务 | 思考强度 | max_tokens | 模型建议 |
|---|---|---|---|
| 分类、路由 | low | 1,000 | Gemma 4 VL 26B 或 DeepSeek V4.1 Flash |
| 抽取为 JSON | low | 1,000 到 2,000 | DeepSeek V4.1 Flash,结构化输出可用 GLM 5.3 |
| 起草客户回复 | low 或默认 | 2,000 | DeepSeek V4.1 Flash |
| 调试、规划、代码审查 | 默认或更高 | 8,000 或不设置 | DeepSeek V4.1 Flash 或 GLM 5.3 |
这些只是起点。在你自己的数据上测量输出 token 和质量,然后再调整。
什么时候思考不再额外花钱?
用固定价格套餐时。BroadNet 的 Full Moon 套餐每个会话每月 $60,不限量使用 DeepSeek V4.1 Flash,不计 token,所以思考 token 没有按 token 的费用。但它们仍然要花时间:即使按 约每秒 100 个 token 的典型速度,所有思考 token 也都要在回答开始前生成,所以思考越长,回答来得越晚。参见固定价格什么时候比按 token 更划算,以及再省一点:降低编程智能体账单的十种方法。
BroadNet Inference 适合什么场景
BroadNet 在一个 OpenAI 兼容的密钥上(https://inference.broadnet.ai/v1)提供三个思考模型和一个未列出思考功能的模型,每个响应都会报告用量。这样就很容易按任务路由并测量差异。如果你需要一个能显示思考摘要的闭源模型,请使用该厂商的 API;BroadNet 的聊天模型目录中没有闭源模型。查看套餐。
