如果你通过 API 使用开放权重模型,选哪家托管方对账单的影响可能比选哪个模型还大。我们测量了到底差多少。BroadRouter 从每家服务商自己的价格页读取每一个价格,并附上来源 URL、核实日期和原文引用。为了这篇文章,我们选出所有至少有两家独立托管方销售的模型,比较它们的标准标价。BroadRouter 是 BroadNet 的网站,BroadNet 销售其中四个模型;它的价格单独列出,不参与排名。
数据来自我们的大模型 API 服务商价格数据集,它同时也是 LLM API 价格指数和每个单模型价格页的数据来源。
同一模型在不同托管方之间价格差多少?
通常差五成以上,经常差一倍。我们比较了 119 个模型,每个模型至少有两家服务商的标价。对每个模型,我们用最贵的标准价格除以最便宜的,按每 1 个输出 token 对应 3 个输入 token 计算混合价格:
| 最贵 ÷ 最便宜 | 模型数 |
|---|---|
| 价格完全相同 | 13 |
| 低于 1.25× | 34(含上面的 13 个) |
| 2× 或以上 | 50 |
| 3× 或以上 | 28 |
| 5× 或以上 | 13 |
| 中位数 | 1.76× |
卖家越多,价差越大。有 10 家或以上服务商的 19 个模型,中位差距为 2.02 倍;只有 2 到 3 家服务商的 51 个模型,为 1.28 倍。热门模型托管方更多,其中尝试不同定价的也更多。
差距最大的是 Llama 3.1 8B Instruct:DeepInfra 和 Cloudflare Workers AI 之间相差 16.7 倍。在托管方很多的模型中,差距最大的是 Llama 3.3 70B Instruct(7.9 倍,14 家服务商)、DeepSeek V4 Flash 0731(7.3 倍,14 家服务商)和 gpt-oss-120b(6.9 倍,20 家服务商)。
热门开源模型在各托管方多少钱?
七个托管方很多的模型。标价单位为每百万 token 的 USD,输入 / 输出,核实于 2026 年 11 月 14 日和 15 日。每个模型都链接到完整的价格页,列出所有服务商和来源。
| 模型 | 有标价的服务商数 | 最便宜,输入 / 输出 | 最常见价格,输入 / 输出 | 最贵,输入 / 输出 | 最贵 ÷ 最便宜(混合) |
|---|---|---|---|---|---|
| GLM 5.3 | 20 | Chutes:1.225 / 3.85 | 1.40 / 4.40(16 家) | SambaNova:2.80 / 8.80 | 2.29× |
| gpt-oss-120b | 20 | CoreWeave:0.03 / 0.17 | 0.15 / 0.60(6 家) | Cerebras、Cloudflare:0.35 / 0.75 | 6.92× |
| DeepSeek V4.1 Flash | 14 | CoreWeave:0.13 / 0.65 | 0.30 / 1.20(12 家) | 12 家并列:0.30 / 1.20 | 2.02× |
| Llama 3.3 70B Instruct | 14 | DeepInfra:0.10 / 0.32 | 0.71 / 0.71(2 家) | Venice:0.70 / 2.80 | 7.90× |
| Qwen3.8 27B | 13 | Chutes:0.039 / 1.25 | 0.45 / 3.20(3 家) | Groq:0.80 / 4.00 | 4.68× |
| Gemma 4 26B A4B | 11 | DeepInfra、Featherless:0.07 / 0.34 | 0.13 / 0.40(5 家) | Vertex AI:0.15 / 0.60 | 1.91× |
| Kimi K3 | 18 | Chutes:1.85 / 9.50 | 3.00 / 15.00(12 家) | Venice:3.75 / 18.75 | 1.99× |
这张表说明了什么:
- **GLM 5.3 是一个跟价市场。**20 家服务商中有 16 家(包括 Z.ai)的标价正好是 USD 1.40 / USD 4.40。Chutes 低于这个价格;Venice、Amazon Bedrock(美国跨区域)和 SambaNova 高于这个价格。另有四家托管方的促销价低于标价(DeepInfra、GMI Cloud、FriendliAI,以及 AkashML 的 “Limited Trial”(译文:限时试用)),我们没有计入。
- **gpt-oss-120b 正好相反。**20 家服务商,最便宜和最贵相差 6.9 倍。Groq、Together AI、Fireworks AI 等六家收 USD 0.15 / USD 0.60;CoreWeave 和 DeepInfra 只收大约四分之一。
- DeepSeek V4.1 Flash 有 12 家服务商定价为 USD 0.30 / USD 1.20。CoreWeave 和 SiliconFlow 的输入价约为其一半。
- Llama 3.3 70B 说明了不同版本会让比较变得模糊。DeepInfra 最便宜的那一行是它的量化版 Turbo,而 Venice 收 USD 0.70 / USD 2.80。
托管方会比模型厂商卖得更便宜吗?
大多是跟价。对于厂商也在自家 API 上销售的 29 个模型,我们把每个托管价格和厂商的价格做了比较:
| 托管价格 vs 厂商自己的价格 | 托管价格数 |
|---|---|
| 输入和输出价格完全相同 | 143(57%) |
| 更低(混合) | 83 |
| 更高(混合) | 23 |
在 29 个模型中,厂商最便宜或并列最便宜的只有 3 个。所以厂商的标价起到了上限的作用,大多数托管方照搬,一部分会压低。
哪些托管方最常最便宜、最常最贵?
| 托管方 | 最便宜(模型数) | 最贵(模型数) |
|---|---|---|
| DeepInfra | 33 | 7 |
| Featherless | 22 | 26 |
| GMI Cloud | 22 | 14 |
| SiliconFlow | 19 | 3 |
| Novita AI | 12 | 13 |
| CoreWeave | 11 | 1 |
| Chutes | 9 | 5 |
| Cloudflare Workers AI | 5 | 11 |
| Venice | 4 | 17 |
| Amazon Bedrock | 4 | 13 |
| Alibaba Cloud Model Studio | 2 | 13 |
| Microsoft Azure | 0 | 14 |
并列时每个并列的托管方都计一次;所有服务商价格相同的模型不计入“最贵”。Featherless 和 GMI Cloud 在两列中都很靠前:它们托管的模型很多,并且每个模型单独定价。Featherless 的按 token 价格还需要 Developer 套餐,credits 每月 50 USD 起。没有哪家托管方在所有模型上都最便宜,所以要按你实际使用的模型来比较。
除了价格还有什么不同?
权重相同,并不保证服务相同:
- **精度。**本次比较的 681 行中有 237 行注明了精度;FP8 最常见(177 行);23 行注明 FP4,4 行注明 INT4。精度更低可能改变输出质量。参见量化。
- 上下文窗口、速率限制和吞吐量因托管方和套餐而异。
- **数据条款。**数据保留和是否用于训练各不相同;参见大模型 API 数据保留对比。
- **价格稳定性。**有些托管方经常调价。在我们的存档中,DeepInfra 有一半长期上架的模型至少调过一次价,有涨有降。参见大模型 API 价格多久变一次和大模型 API 涨价。
一个实用的做法:挑出两三家价格等于或低于常见价格的托管方,用同样的 50 到 100 个真实提示词分别测试,把第二名留作测试过的备用。如何选择大模型 API 服务商有一份检查清单。
方法说明
- **价格。**41 家第三方服务商自己的价格页,每个价格都附有来源 URL、核实日期(2026 年 11 月 14 日或 15 日)和原文引用:见大模型 API 服务商价格数据集及其 CSV。只取标准档位;批处理、flex、priority 和免费的行均已排除。BroadNet 自己的价格文件不计入。
- **排除促销价。**标注为促销、“limited trial”(译文:限时试用)或 ”% off list”(译文:比标价低 %)的 49 个标准价格不计入,与数据集页面上的排名一致。
- **选取哪些模型。**一个模型至少有两家独立托管方上架(不计 Amazon Bedrock、Azure 和 Vertex AI 这几家同时转售闭源模型的云平台),且总共至少有两家服务商给出标价,才纳入比较。OpenAI(gpt-oss 除外)、Anthropic、Google Gemini、xAI 和 Amazon 的闭源模型不计入。符合条件的有 119 个模型。
- **价差。**每家服务商取一个价格(它为该模型列出的最便宜标价行),按每 1 个输出 token 对应 3 个输入 token 混合;用最贵 ÷ 最便宜。我们的脚本从 JSON 文件重新计算每一个数字;价格指数公布的价差使用全部模型并保留促销行,所以中位数不同。
- **历史。**价格随时间的变化来自单独的大模型 API 价格历史数据集(CSV),读取自 Internet Archive 的存档快照。BroadNet 不在其中,因为存档里没有它价格页的快照。
BroadNet Inference 的定位
BroadRouter 是 BroadNet 自己的网站,BroadNet Inference 销售本次比较中的四个模型。它的价格来自它的 pricing.json,没有参与上面的排名:
| 模型 | BroadNet 输入 | BroadNet 输出 | 与上文比较的关系 |
|---|---|---|---|
| GLM 5.3 | $0.78 | $3.46 | 低于上文的标价;DeepInfra、GMI Cloud 和 AkashML 的促销价至少有一项更低 |
| DeepSeek V4.1 Flash | $0.175 | $0.52 | CoreWeave 和 SiliconFlow 的输入价更低,BroadNet 的输出价比它们低;DeepInfra 的促销价两项都更低 |
| Qwen3.8 27B | $0.175 | $2.17 | Chutes 和 Hyperbolic 的混合价格更低,DeepInfra 和 AkashML 的促销价也更低 |
| Gemma 4 VL 26B(BroadNet 版本的 Gemma 4 26B A4B) | $0.10 | $0.22 | DeepInfra 和 Featherless 的输入价更低;BroadNet 的输出价更低 |
BroadNet 并不是每个模型都最便宜。BroadNet 上的 DeepSeek V4.1 Flash 由合作伙伴托管,自助账户没有 SLA。BroadNet 还为 DeepSeek V4.1 Flash 提供固定价格套餐,每个会话每月 $60,同一时间运行一个请求。在聊天模型中,只有 Gemma 可以用 $5 的初始额度运行;其他三个需要充值。
