BroadRouter

大模型单用户成本:SaaS AI 功能的单位经济

BroadNet Inference 团队 · 阅读约 6 分钟 · 发布于

大模型单用户成本 = 每个活跃用户每月请求数 × 每次请求的 token 数 × 每百万 token 价格。按功能从 usage 字段测量,按第 90 百分位用户而不是平均用户给套餐定价,并为长尾用户设置合理使用限制。更便宜的模型、缓存和更低的思考强度都能直接降低这个数字。

给 SaaS 产品加上 AI 功能,会改变它的成本结构。托管和存储对每个用户的成本大致相同;大模型调用则是用得越多花得越多。如果不知道一个活跃用户要花你多少钱就给功能定价,几个热情的客户就可能把一个盈利的套餐变成亏损。本文介绍怎样计算大模型单用户成本,为什么平均值是错误的指标,以及怎样用它来设置套餐档位。

怎样计算大模型单用户成本?

针对一个功能和一个模型:

cost per user per month =
    requests per active user per month
  × [ new input tokens × input price
    + cached tokens    × cached price
    + output tokens    × output price ] / 1,000,000

即:每用户每月成本 = 每个活跃用户每月请求数 ×[新输入 token × 输入价格 + 缓存 token × 缓存价格 + 输出 token × 输出价格]÷ 1,000,000。在思考模型上,输出包含思考 token;在按量付费密钥上,图像按输入 token 计算。如果需要复习这三种价格,请阅读大模型 API 怎么计费。

把一个用户用到的所有功能加起来,就得到每个用户的 AI 总成本。

第 1 步:什么算活跃用户,计量单位是什么?

选一个你已经在报告中使用的定义,例如当月至少用过一次 AI 功能的用户。然后选一个功能自然产生的单位:一轮对话、一份生成的文档、一个分析过的文件、一次通话摘要。每单位成本比单用户成本更稳定,也更容易推算。

第 2 步:怎样测量每单位的 token 数?

不要根据字数来估算。记录每个响应的 usage 块,附上功能标签和经过哈希的用户或账户 ID:提示词 token、缓存 token 和补全 token,每次尝试一行。用量日志一文提供了现成的封装函数,以及按用户和功能汇总成本的 SQL。在还没有流量时,可以用 token 计数器根据示例提示词做初步估算。

对于流式回复,用 stream_options={"include_usage": True} 请求在最后一个数据块返回用量;参见流式输出指南。每次尝试都要计入,包括重试,因为每次到达模型的尝试都会计费。

第 3 步:一个典型用户要花多少钱?计算实例

假设你的产品有一个应用内助手。你测得一个典型活跃用户一个月的数据如下:

指标 数值
活跃天数 20
每个活跃日的助手请求数 15
每次请求的输入 token 3,000(一半命中缓存)
每次请求的可见回答 token 400
每次请求的思考 token(思考模型) 约 600

也就是每月 300 次请求:约 900,000 输入 token,其中 450,000 命中缓存,另有 120,000 可见输出 token;在思考模型上还要加约 180,000 思考 token。

代入 BroadNet 的每百万价格。token 数以百万为单位,所以每一项都是百万 token 数 × 每百万价格:

模型 输入 / 缓存 / 输出(每百万) 这个用户一个月
Gemma 4 VL 26B $0.10 / 无缓存价 / $0.22 0.9 × $0.10(全部输入按全价)+ 0.12 × $0.22(无思考 token)= $0.12
DeepSeek V4.1 Flash $0.175 / $0.0055 / $0.52 0.45 × $0.175 + 0.45 × $0.0055 + 0.3 × $0.52 = $0.24
Qwen3.8 27B $0.175 / $0.0435 / $2.17 0.45 × $0.175 + 0.45 × $0.0435 + 0.3 × $2.17 = $0.75
GLM 5.3 $0.78 / $0.173 / $3.46 0.45 × $0.78 + 0.45 × $0.173 + 0.3 × $3.46 = $1.47

思考模型上 0.3M 的输出,是 0.12M 可见回答加 0.18M 思考。算下来,同一个用户在 GLM 5.3 上的费用是 Gemma 4 VL 26B 的十倍以上(Gemma 4 VL 26B 与 GLM 5.3 对比并排列出了两者)。在每个思考模型上,输出都是最大的一项,而思考 token 占了输出的一半以上。把你自己的测量数据填进 LLM API 费用计算器,就能得到你的数字。

第 4 步:为什么平均用户会误导你?

AI 功能的使用分布是偏斜的。大多数用户只试几次;一小部分人整天都在用。平均值掩盖了这部分人,而账单正是由他们拉高的。

从用量日志中,按每用户每月计算:

  • **中位数成本。**一个普通用户的成本。
  • **第 90 百分位。**一个重度但正常的用户的成本。给套餐定价时,要让这个用户仍然有利润。
  • **第 99 百分位和最大值。**长尾。这些用户需要合理使用限制、更高的档位,或者检查是否存在自动化和滥用。

如果第 99 百分位用户的成本是中位数的许多倍,这本身不是问题;它是定价的输入。

第 5 步:怎样设置档位和限制?

知道了单用户成本,定价就变成了毛利决策:

  1. 确定这个档位的目标毛利率。
  2. 倒推出这个毛利率允许的单用户 AI 成本上限。
  3. **和第 90 百分位比较。**如果第 90 百分位在上限内,这个档位就成立。如果不在,就降低成本(第 6 步)、提高价格,或把重度使用移到更高的档位。
  4. **把 token 换算成用户能理解的单位。**用户不会用 token 思考。限制每天的请求数、每月的文档数或音频分钟数,额度要保证允许范围内最重的使用也不超出成本上限。
  5. **每月复查。**提示词修改、新功能和模型更换都会改变单用户成本。

第 6 步:怎样在不改变产品的前提下降低单用户成本?

  • **缓存。**把稳定的系统提示词和工具列表放在最前面。在 DeepSeek V4.1 Flash 上,缓存输入每百万 $0.0055,而不是 $0.175。参见如何提高缓存命中率。
  • **降低思考强度。**对常规请求把 reasoning_effort 设为 low,可以削减最贵的 token。参见思考要花多少钱。
  • **按难度路由。**简单请求发给 Gemma 4 VL 26B,思考模型留给难的请求。
  • **精简历史。**长对话每一轮都会重新发送全部内容;在质量允许的情况下,对较早的轮次做摘要或截断。
  • **限制输出。**按功能设置 max_tokens,在思考模型上要给思考留出空间。

更多控制方法见大模型 API 支出控制。

固定价格套餐能服务 SaaS 用户吗?

BroadNet 的 DeepSeek V4.1 Flash 不限量套餐(每个会话每月 $60)可以用你自己的密钥集成到你自己的应用或服务中,但每个会话同一时间只运行一个请求,而且密钥不能共享或转售。这让套餐很适合并发低的后端工作:每晚生成报表、由队列驱动的摘要任务、内部智能体。对于同时请求很多的交互式用户流量,通常的做法是使用按量付费密钥(每个密钥同时 4 个请求,每分钟 30 个)或多个会话。当前条款请查看套餐页面。

模型之外还有哪些成本?

来自 token 的单用户成本只是 AI 支出的一部分。还要加上检索和向量存储、语音转写(按音频分钟计价,例如 BroadNet 上阿拉伯语每分钟 $0.0042)、重试和评估运行。如果你的用户用阿拉伯语或其他非英语语言书写,每条消息的 token 数会比英语多;请针对自己的内容测量每个词的 token 数。

免费档和试用怎么处理?

免费档会把单用户成本乘上不付费的用户数。把它当作营销支出:给免费用户提供仍能很好展示功能的最便宜模型,设置比付费档更严格的每日限制,并把免费用户的 AI 成本单独记账。如果免费用户转化了,这笔支出就是获客成本;如果没有转化,限制能让它保持在较小的规模。

小结

从 usage 字段测量每单位的 token 数,乘以公布的价格,看第 90 百分位而不是平均值,再据此设置档位价格和限制。然后用缓存、路由和更低的思考强度让每个单位都更便宜。如果你还什么都没测量过,先从每月成本估算方法开始。

常见问题

应该按 token 向用户收费吗?

对终端用户来说很少这样做;大多数人更喜欢有明确限额的固定档位。在内部测量 token,对外按请求数、文档数或席位定价,并为最重度的长尾用户保留合理使用限制。

能用 BroadNet 的固定价格套餐服务我的 SaaS 用户吗?

BroadNet 允许你用自己的密钥把套餐集成到自己的应用或服务中。每个会话同一时间运行一个请求,所以适合后端智能体或并发低的功能;面向用户、同时请求很多的流量,通常需要按量付费密钥或多个会话。

AI 成本应该占订阅价格的多大比例?

没有统一的数字。先确定业务需要的毛利率,再倒推出一个重度但正常的用户最多能花多少,并据此设置限制。

多久重新计算一次单用户成本?

每次修改提示词、模型或功能时都要算,而且至少每月一次。随着提示词和用户行为变化,token 数会漂移。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity