BroadRouter

Claude Code 接入开源模型:代理、原生端点与限制

BroadNet Inference 团队 · 阅读约 6 分钟 · 发布于

Claude Code 把 Anthropic Messages API 请求发往 ANTHROPIC_BASE_URL。要使用 OpenAI 兼容的服务商,就运行 LiteLLM 这样的转换代理并让 Claude Code 指向它,或者选择自带 Anthropic 格式端点的服务商,例如 DeepSeek 或 Z.ai。Anthropic 不支持在 Claude Code 中使用非 Claude 模型,所以工具、缓存和上下文限制都要自己测试。

Claude Code 用 Anthropic Messages API 格式发送每一个请求,发往 ANTHROPIC_BASE_URL 所指地址上的 /v1/messages。而大多数开源模型服务商(包括 BroadNet Inference)使用的是 OpenAI 格式。所以你需要一个在两种格式之间转换的代理,或者一个自己公布了 Anthropic 格式端点的服务商。本文介绍这两种方式,以及决定是否值得这样做的各种限制。

为什么 Claude Code 不能直接调用 OpenAI 兼容 API?

Claude Code 的网关兼容性指南列出了网关必须提供的格式。对普通的 base URL 来说,就是 Anthropic Messages:/v1/messages,/v1/messages/count_tokens 可选,并且要转发 anthropic-beta 和 anthropic-version 请求头。OpenAI 兼容 API 提供的是 /v1/chat/completions,请求和响应的结构都不同。直接把 Claude Code 指向它,请求会失败。

开始之前还有一件事要知道。Claude Code 自己的文档说,Anthropic “doesn’t support routing Claude Code to non-Claude models through any gateway.”(译文:不支持通过任何网关把 Claude Code 路由到非 Claude 模型。)很多人照样这么用,但 Anthropic 不会有人帮你排查。

有哪三种选择?

方式 工作原理 适合 代价
转换代理(LiteLLM) Claude Code 用 Anthropic 格式和本地代理通信;代理再调用 OpenAI 兼容服务商 想使用某个特定的 OpenAI 兼容服务商,例如 BroadNet 多一个要运行和更新的进程;存在转换缺口
原生 Anthropic 格式端点 服务商自己接受 /v1/messages 直接从厂商使用 DeepSeek 或 GLM 模型 各家都会映射或忽略部分字段
换一个智能体 使用能接受 OpenAI 兼容 base URL 的智能体 不是非用 Claude Code 不可的人 放弃 Claude Code 的界面和功能

怎样通过 LiteLLM 运行 Claude Code?

LiteLLM 针对非 Anthropic 模型的教程是这样的:安装代理,在 config.yaml 中定义模型,启动代理,然后在 Claude Code 中设置两个变量。LiteLLM 负责格式转换,所以 Claude Code 继续发送 Anthropic 请求。

按照 LiteLLM 指南中的方式定义 BroadNet 模型,使用 openai/ 前缀和 api_base:

model_list:
  - model_name: glm
    litellm_params:
      model: openai/broadnet/glm-5.3
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
      rpm: 30
  - model_name: qwen
    litellm_params:
      model: openai/broadnet/qwen3.8-27b
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
      rpm: 30

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY

启动代理:

uv tool install 'litellm[proxy]'
export BROADNET_API_KEY='your-broadnet-key'
export LITELLM_MASTER_KEY='sk-any-local-secret'
litellm --config config.yaml   # listens on http://0.0.0.0:4000

然后让 Claude Code 指向它。ANTHROPIC_AUTH_TOKEN 会作为 Authorization: Bearer 请求头发送,LiteLLM 读取的正是这个请求头:

export ANTHROPIC_BASE_URL=http://0.0.0.0:4000
export ANTHROPIC_AUTH_TOKEN="$LITELLM_MASTER_KEY"
export ANTHROPIC_MODEL=glm                  # main model
export ANTHROPIC_DEFAULT_HAIKU_MODEL=qwen   # background tasks
export ANTHROPIC_DEFAULT_SONNET_MODEL=glm   # the sonnet alias
export ANTHROPIC_DEFAULT_OPUS_MODEL=glm     # the opus alias
export CLAUDE_CODE_SUBAGENT_MODEL=glm       # subagents
claude

代码中的英文注释依次表示:主模型、后台任务、sonnet 别名、opus 别名、子智能体。在 Claude Code 中运行 /status,Anthropic base URL 这一行应该显示代理地址。

模型变量很重要。LiteLLM 的 Claude Code 页面提醒,选择一个配置中未定义的内置 Claude 名称会失败,报错 “Invalid model name passed in”(译文:传入的模型名无效)。Claude Code 的环境变量参考说,ANTHROPIC_DEFAULT_HAIKU_MODEL 也用于后台功能,所以它也要映射,否则后台请求会请求一个代理不认识的 Haiku 名称。CLAUDE_CODE_SUBAGENT_MODEL 设置子智能体的默认模型,但 Claude 在创建子智能体时传入的模型(通常是 sonnet 或 haiku 这样的别名)优先级更高。把 sonnet 和 opus 别名也映射好,这些请求才能解析到代理认识的模型。把 BroadNet 密钥放在代理的环境变量中,绝不要放进项目里提交到仓库的 .claude/settings.json。

哪些 DeepSeek 和 GLM 端点不用代理就能用?

有两家模型厂商公布了 Anthropic 格式的 base URL:

服务商 Base URL 模型处理方式(据其文档,2026-11-15 核实)
DeepSeek https://api.deepseek.com/anthropic claude-sonnet* 和 claude-haiku* 名称映射到 deepseek-flash;claude-opus* 映射到 deepseek-v4-pro;不以 claude 开头的名称返回 400
Z.ai(GLM Coding Plan) https://api.z.ai/api/anthropic 密钥放在 ANTHROPIC_AUTH_TOKEN;手动配置示例把 Opus 和 Sonnet 映射到 glm-5.3[1m],把 Haiku 映射到 glm-5.3-flash[1m]

DeepSeek 2026 年 9 月 10 日的发布说明称,deepseek-flash 提供的是 DeepSeek-V4.1-Flash。它的 Anthropic API 页面还列出了会被忽略的内容,其中包括 cache_control、budget_tokens、disable_parallel_tool_use 和 anthropic-version 请求头。在 deepseek-flash 上,assistant 消息中的图像会返回 400;deepseek-v4-pro 则会把图像替换为 “[Unsupported Image]”。

如果你只想在 Claude Code 中使用 DeepSeek 或 GLM,这些原生端点是最短的路径。两者的价格和套餐限制在 Claude API 替代方案页面中有对比。

换成非 Claude 模型后,哪些会失效或改变?

格式转换能让请求跑通,但 Claude Code 的一些功能依赖代理或其他模型未必能透传的东西。Claude Code 的文档列出了这些:

  • **提示词缓存。**Claude Code 用 cache_control 标记 system 和消息块。如果网关或上游丢掉了它,不会报错,但每一轮都按未缓存输入计费。在 OpenAI 兼容的上游,缓存遵循该服务商自己的规则。当 BroadNet 的 usage 块报告缓存命中时,缓存输入按更低的价格计费;请在日志中检查 cached_tokens。
  • **token 计数。**没有 /v1/messages/count_tokens 时,Claude Code 会退回到基于字符数的估算,所以 /context 只是近似值。
  • **上下文窗口。**对于不认识的模型名,Claude Code 会套用自己的默认窗口。设置 CLAUDE_CODE_AUTO_COMPACT_WINDOW(100,000 到 1,000,000 token)来匹配模型。Qwen3.8 27B 的上下文为 262,144 token,要设置得明显低于这个值。
  • **未知字段。**如果返回 400,并提到 Extra inputs are not permitted 或某个 anthropic-beta 值,说明上游某处拒绝了一个预发布字段。文档建议设置 CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1。
  • 思考。MAX_THINKING_TOKENS 和自适应思考是 Claude 的功能。在 BroadNet 上,DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 都会先思考再回答,这些思考 token 计入 max_tokens。如果回答是空的,请提高输出上限,或发送 reasoning_effort low。参见为什么思考模型返回空回答。
  • **图像。**GLM 5.3 在 BroadNet 上只支持文本。如果要粘贴截图,请用 Qwen3.8 27B。

在依赖它之前,先端到端测试一个真实任务,包括文件编辑、shell 命令和一个长会话。

Claude Code 后面应该接 BroadNet 的哪个模型?

Claude Code 通过工具调用读取文件、编辑文件和执行命令。BroadNet 的 API 参考为两个模型提供了工具、结构化输出和思考的文档说明:

模型 每百万 token 输入 / 输出 上下文 图像 有工具文档
GLM 5.3 $0.78 / $3.46 1,048,576 否 是
Qwen3.8 27B $0.175 / $2.17 262,144 是 是
DeepSeek V4.1 Flash $0.175 / $0.52 1,048,576 是 无文档说明

对于大型代码仓库,GLM 5.3 是自然的主模型。Qwen3.8 27B 的每输入 token 更便宜,适合处理图像和较轻的后台调用。两者都需要充值;$5 的初始额度不覆盖它们。GLM 5.3 与 Qwen3.8 27B 对比有并排比较。

能用 BroadNet 的固定价格套餐运行 Claude Code 吗?

这不是有文档说明的搭配,最好在购买之前就知道。Full Moon、Orbit 和 Meteor 套餐只覆盖 DeepSeek V4.1 Flash,而 BroadNet 没有为它提供工具调用的文档说明。另外,每个套餐会话同一时间只运行一个请求。Claude Code 可能会在主循环之外同时运行子智能体和后台任务,这些请求都会在一个会话上排队。

如果你想要固定价格,请使用 BroadNet 文档中说明可以搭配套餐的智能体,例如 Aider。对于 Claude Code,请使用按量付费的 GLM 5.3 或 Qwen3.8 27B,每个密钥允许每分钟 30 个请求,同时 4 个。遇到 429 时按错误与重试中的方法退避。

什么时候换一个智能体更好?

如果你并不需要 Claude Code 本身,就跳过代理。opencode、Cline、Roo Code、Continue 和 Aider 都可以直接填写 OpenAI 兼容的 base URL、密钥和模型 ID。每个工具的字段名见编程智能体接入开源模型,另有 opencode 和 Cline 的配置指南。环节越少,转换 bug 就越少。要比较适合这类工作的模型,参见编程智能体最佳开源模型。

如果你的工作依赖 Claude 专有的功能,例如扩展思考、Anthropic 提示词缓存或最新的 Claude Code beta 功能,就继续用 Claude 模型。这种情况下,与其换模型,不如在 Claude Code 内部降低成本。

BroadNet Inference 的定位

BroadNet Inference 是 OpenAI 兼容 API,所以只能通过 LiteLLM 这样的代理接入 Claude Code。在代理后面,GLM 5.3 和 Qwen3.8 27B 是有工具调用文档说明的两个模型,按 token 计费,请求结束后不保留任何内容。如果你想要原生的 Anthropic 格式端点,DeepSeek 和 Z.ai 更简单。如果你想用 BroadNet 的固定价格套餐,请把它和使用 OpenAI 格式的智能体搭配。

常见问题

Claude Code 能接入 DeepSeek 吗?

可以,有两种方式。DeepSeek 公布了 Anthropic 格式的 base URL https://api.deepseek.com/anthropic,它把 claude-sonnet 和 claude-haiku 名称映射到 deepseek-flash,把 claude-opus 名称映射到 deepseek-v4-pro。或者,在任何提供 DeepSeek 模型的 OpenAI 兼容托管方前面加一个 LiteLLM 这样的转换代理。

Claude Code 能直接用 OpenAI 兼容 API 吗?

不能直接用。Claude Code 把 Anthropic Messages API 请求发往 /v1/messages。LiteLLM 这样的代理接收这些请求,转发到 OpenAI 风格的 /chat/completions 端点,再把回复转换回来。

Anthropic 支持在 Claude Code 中使用其他模型吗?

不支持。Claude Code 的网关文档说,Anthropic 不支持通过任何网关把 Claude Code 路由到非 Claude 模型。实际上很多人这样用也能跑通,但这条路径上的 bug 要你自己排查。

Claude Code 后面应该接 BroadNet 的哪个模型?

GLM 5.3 或 Qwen3.8 27B。BroadNet 只为这两个模型提供了工具调用的文档说明,而 Claude Code 是通过工具来编辑文件和执行命令的。GLM 5.3 的上下文为 1,048,576 token;Qwen3.8 27B 为 262,144,并且支持图像输入。

能用 BroadNet 的不限量套餐运行 Claude Code 吗?

这不是有文档说明的搭配。固定价格套餐只覆盖 DeepSeek V4.1 Flash,而 BroadNet 没有为这个模型提供工具调用的文档说明。另外,一个套餐会话同一时间只运行一个请求,而 Claude Code 可能会并行运行子智能体。

通过 LiteLLM 使用时,Claude Code 为什么提示 Invalid model name?

Claude Code 请求了一个 config.yaml 中没有定义的模型名,常见的是内置的 Claude 别名或后台使用的 Haiku 模型。把 ANTHROPIC_MODEL 和 ANTHROPIC_DEFAULT_HAIKU_MODEL 设为 model_list 中的名称。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity