BroadRouter
开始使用

大模型 API 怎么计费:输入、缓存、输出与思考 token 详解

BroadNet Inference 团队 · 阅读约 6 分钟 · 发布于 · 更新于

大模型 API 按每百万 token 计费,输入、缓存输入和输出各有单价。思考 token 按输出计费,图像按输入 token 计费,语音转文字则按音频分钟计费。在 BroadNet Inference 上,DeepSeek V4.1 Flash 每百万 token 输入 $0.175、缓存 $0.0055、输出 $0.52。

A stream of tokens flowing into the words "Ideas become answers."

大模型 API 按每百万 token 计费,并分成几块独立计量:新输入、缓存输入和输出。思考 token 按输出计费,图像按输入 token 计费,语音转文字按音频分钟计费。本文逐项讲解每种计量方式,再用 BroadNet Inference 公布的价格(于 2026-11-14 同步)给真实请求算一算账。

你到底在为什么付费?

token 是一小段文本,通常只有几个字符。BroadRouter 用五种分词器自行测量,1,000 个英文单词约为 1,290 个 token;OpenAI 的经验法则是 100 个 token 约合 75 个英文单词。其他语言差别不小,把你自己的文本粘贴到免费的 token 计数器里就能看到实际数字。每个请求都会在 usage 中报告 token 数,账单就是以下几项之和:

计量项 统计内容 计费单价
输入(prompt) 系统提示词、历史消息、文档、工具定义、图像 输入价
缓存输入 服务商之前已处理过、可以复用的输入 缓存价,低得多
输出(completion) 可见的回答,加上所有思考内容 输出价
音频分钟 送去转写的音频时长 每分钟单价

其中最关键的是输入 token 与输出 token 的区分,因为两者单价相差很大。

每个模型的 token 单价是多少?

BroadNet Inference 价格,按每百万 token 计:

模型 输入 缓存输入 输出 上下文
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52 1,048,576
GLM 5.3 $0.78 $0.173 $3.46 1,048,576
Qwen3.8 27B $0.175 $0.0435 $2.17 262,144
Gemma 4 VL 26B $0.10 无缓存折扣 $0.22 32,768

这份价目表和大多数价目表一样,有两个规律。第一,输出比输入贵,从 Gemma 4 VL 26B 的约两倍到 Qwen3.8 27B 的十倍以上不等。第二,缓存输入只是新输入价格的一小部分。想把这些价格和 OpenAI、Anthropic、Google 等服务商比较,请看 大模型 API 价格表。想看我们跟踪的所有模型的全市场中位数、服务商价差和输出/输入价格比,请看 大模型 API 价格指数(开放 CSV 和 JSON)。

为什么输出比输入贵?

模型读取整个提示词时只需一次并行计算。而写回答时是一个 token 一个 token 地生成,每个新 token 都要再算一遍。因此每个输出 token 占用的 GPU 时间更多,价格也就更高。提示词短、回答长的请求,可能比提示词长、回答短的请求更贵。

缓存输入 token 怎么计费?

如果提示词的开头和最近的某个请求相同,服务商就可以复用之前的计算结果。这部分缓存输入 token 会出现在 prompt_tokens_details.cached_tokens 中,按缓存价计费。以 DeepSeek V4.1 Flash 为例,每百万 token 是 $0.0055,而不是 $0.175。

前缀越稳定,缓存越划算:系统提示词、工具列表和文档放在前面,新消息放在最后。每一轮都重新发送同一个代码仓库的智能体受益最大。各家服务商如何对缓存读写计费,请看 缓存输入 token 详解;要估算你自己的缓存命中率,可以用 提示词缓存计算器。

为什么思考模型计费的输出比你看到的多?

DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 会先思考再回答。这些思考由思考 token 构成。它们不出现在回复里,但会计入 completion_tokens,并按输出价计费。OpenAI 的思考模型指南对自家模型也是同样的规则:思考 token “are billed as output tokens”(译文:按输出 token 计费)。

思考内容同样计入 max_tokens。设得太低,你就会为思考付费却拿不到答案。参见为什么回复是空的,以及如何降低思考成本。

图像和音频怎么计价?

图像。视觉模型会把图像转换成输入 token,你按输入价为这些 token 付费,图像越大 token 越多。BroadNet 不另收每张图像的费用。参见每张图像成本对比。

音频。语音转文字按音频时长计费,而不是按 token:

模型 每分钟 每小时音频
BroadNet Transcribe Arabic $0.0042 $0.25
BroadNet Transcribe(14 种语言) $0.002 $0.12

一个真实请求要花多少钱?实例计算

以下示例都用 DeepSeek V4.1 Flash。每个例子的规模都让总数正好落在整百万 token 上,方便你核对。

  1. **聊天功能。**500 个请求,每个 2,000 个输入 token、2,000 个输出 token,合计 100 万输入 token 和 100 万输出 token。费用:$0.175 加 $0.52。
  2. **反复读取上下文的智能体。**十轮对话,每轮都发送同样的 100,000 token 上下文,合计 100 万输入 token。如果完全没有命中缓存,费用是 $0.175;如果全部命中缓存,费用会是 $0.0055;但第一轮没有可复用的内容,所以这只是下限:最多 900,000 个 token 按缓存价计费,第一轮的 100,000 个 token 按输入价计费。
  3. **看不见的思考。**1,000 个回答,每个可见部分 200 个 token,再加 800 个思考 token,共计费 100 万输出 token:$0.52。其中你真正看到的文字只占五分之一。
  4. **转写。**1,000 小时阿拉伯语音频的费用是 $252.00。10,000 条 30 秒的语音消息费用是 $21.00。

通用公式:

cost = new_input/1M × input_price
     + cached_input/1M × cached_price
     + output/1M × output_price      (output includes reasoning)

想用你自己的流量来算,可以用免费的 大模型 API 费用计算器。要为新功能做完整预测,请看 上线前如何估算大模型 API 费用。

怎么从响应中读取真实用量?

一旦有了真实流量,就别再按字数估算了,直接读数据:

import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
r = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=[{"role": "user", "content": "Summarise this ticket in one line: ..."}],
)
u = r.usage
details = u.prompt_tokens_details  # can be None when the model reports no cache data
cached = (details.cached_tokens or 0) if details else 0
print(u.prompt_tokens, cached, u.completion_tokens)

使用流式输出时,加上 stream_options={"include_usage": True},最后一个数据块就会带上 usage。参见流式输出指南。

还有哪些计价方式?

按 token 计费并不是唯一的选择:

  • 固定价格套餐。固定价格套餐按时间收费,而不是按 token。BroadNet 的 Full Moon 每个会话每月 $60,DeepSeek V4.1 Flash 不限量,同一时间一个请求。Orbit 每周 $15,Meteor 每小时 $1。
  • 按小时密钥。$0.50 可以买到一小时的 Gemma 4 VL 26B,一路流。参见按小时密钥详解。
  • **批处理和独享 GPU。**有些服务商会给夜间批处理任务打折,或按小时出租整块 GPU。参见其他服务商如何为开源模型定价。

固定价格什么时候比按 token 计费划算,取决于用量和缓存命中率。从缓存到批处理折扣,所有省钱手段按顺序列在 如何降低大模型 API 费用 中。

按 token 的价格也会随时间变化,有降也有涨。在 11 家服务商的历史价格页面存档中,80% 的模型从未调过价。在调过价的模型中,我们一共记录到 100 次降价和 52 次涨价,每一次都是拿某个模型的价格和它自己之前的价格相比。参见 大模型 API 价格多久变一次 和 大模型 API 最大幅度降价(附来源)。

BroadNet Inference 适合什么场景

BroadNet 为其提供的所有模型发布同一份价目表,放在一个机器可读文件中,本站的价格页面就读取这个文件。新账户可获得 $5 初始额度;Gemma 4 VL 26B 和两个转写模型可以用初始额度调用,其他对话模型需要先充值。如果你想在一个账户里同时使用按 token 计费和固定价格,它很合适;套餐有单独的密钥。它不适合需要前沿闭源模型的场景:它只提供开放权重模型和 BroadNet 自己的构建版本。

常见问题

大模型 API 的费用是怎么算出来的?

输入 token 乘以输入价,缓存输入 token 乘以缓存价,输出 token 乘以输出价,单价都按每百万 token 计,三者相加即可。思考 token 包含在输出里。

为什么输出 token 比输入 token 贵?

模型读取输入时一次并行处理完,生成输出却要一个 token 一个 token 地来,所以每个输出 token 占用更多 GPU 时间。服务商把这个差别算进了价格。

思考 token 要收费吗?

在按 token 计费的密钥上要收费。思考 token 计入 completion tokens,按输出价计费,尽管它们不会显示在回复里。

大模型 API 处理一张图片要多少钱?

图像会被转换成输入 token,所以费用是它的 token 数乘以输入价。图像越大,token 越多。查看 usage 中的 prompt_tokens 就能知道实际数量。

全天运行的智能体,怎么付费最省钱?

通常是固定价格套餐。在 BroadNet 上,一个 Full Moon 会话每月 $60,DeepSeek V4.1 Flash 不限量使用,同一时间一个请求。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity