BroadRouter

把 BroadNet Inference 作为自定义供应商接入 goose

更新于

在 goose 中添加一个自定义供应商,类型选 OpenAI Compatible,API URL 填 https://inference.broadnet.ai/v1/chat/completions,再填入 BroadNet 密钥和可用模型(例如 broadnet/glm-5.3)。可以用 goose Desktop 的 Add Custom Provider 按钮、终端里的 goose configure,或 ~/.config/goose/custom_providers/ 下的 JSON 文件。goose 依赖工具调用,建议先用 GLM 5.3 或 Qwen3.8 27B。

goose 是一个开源的 AI agent,有桌面应用和 CLI。没有内置的服务可以作为自定义供应商添加,goose 支持 OpenAI 兼容的供应商。BroadNet Inference 提供标准的 chat completions,因此可以这样接入。BroadRouter 是 BroadNet 自己的网站;下面的步骤依据 goose 1.59 时的 goose 供应商文档。

goose 的文档提醒,它“extensively uses tool calling”(译文:大量使用工具调用),不支持工具调用的模型只能在禁用所有扩展的情况下聊天。BroadNet 为 GLM 5.3 和 Qwen3.8 27B 列出了工具调用,做 agent 工作时请用这两个之一。

方式一:goose Desktop

  1. 打开侧边栏,点击 Settings,再进入 Models 标签页。

  2. 点击 Configure providers,然后点击底部的 Add Custom Provider。

  3. 填写信息:

    字段 值
    Provider Type OpenAI Compatible
    Display Name BroadNet Inference
    API URL https://inference.broadnet.ai/v1/chat/completions
    API Key 你的 BroadNet 密钥
    Available Models broadnet/glm-5.3, broadnet/qwen3.8-27b
    Streaming Support 开启
  4. 点击 Create Provider,然后选中它和一个模型。

方式二:goose CLI

运行 goose configure,选择 Custom Providers,再选 Add A Custom Provider,按提示填入同样的值:API 类型 OpenAI Compatible,上面的 API URL,认证选 Yes 并使用静态 API 密钥,逗号分隔的模型列表,开启流式输出。

方式三:JSON 文件

创建 ~/.config/goose/custom_providers/broadnet.json(Windows 上放在 %APPDATA%\Block\goose\config\custom_providers\):

{
  "name": "broadnet",
  "engine": "openai",
  "display_name": "BroadNet Inference",
  "description": "BroadNet Inference, OpenAI-compatible",
  "api_key_env": "BROADNET_API_KEY",
  "base_url": "https://inference.broadnet.ai/v1/chat/completions",
  "models": [
    { "name": "broadnet/glm-5.3", "context_limit": 1048576 },
    { "name": "broadnet/qwen3.8-27b", "context_limit": 262144 },
    { "name": "broadnet/deepseek-v4.1-flash", "context_limit": 1048576 }
  ],
  "supports_streaming": true,
  "requires_auth": true
}

然后用它启动一个会话:

export BROADNET_API_KEY='your-broadnet-key'
goose session start --provider broadnet

由于密钥保存在环境变量里,这个文件可以放进代码仓库与团队共享。

测试

先问一个简单的问题,比如“what can you do?”(你能做什么?)。得到回答就说明连接正常。然后让它做一件需要用到已启用扩展的事。如果 goose 调用了工具,说明工具调用也正常。如果它只回复文字、从不调用工具,请换成 broadnet/glm-5.3。

在 goose 中显示价格

如果 JSON 文件中的每个模型都写了 input_token_cost 和 output_token_cost(单位为美元/token),goose 就能估算费用。数值取自 BroadNet 的价格页,把每百万 token 的价格除以 1,000,000。如果缺少这两个字段,goose 会退回使用它自带目录中的价格,可能与 BroadNet 的价格不一致。

故障排查

  • 401。 密钥不对、已过期或额度已用完,或者启动 goose 的 shell 中没有设置 BROADNET_API_KEY。
  • 404。 检查 API URL,应该是 https://inference.broadnet.ai/v1/chat/completions。检查模型 ID 是否与 BroadNet 的完全一致。付费模型需要先充值;$5 额度只覆盖 broadnet/gemma-4-26b-a4b 和两个 Transcribe 模型,而 Gemma 32,768 token 的上下文对 agent 工作来说偏小。
  • 回答为空。 在 DeepSeek V4.1 Flash、GLM 5.3 和 Qwen3.8 27B 上,思考内容计入输出上限。为什么回答会是空的。
  • 429。 按量付费密钥每分钟允许 30 个请求,同时最多 4 个进行中的请求。参见错误码与重试。
  • 两个 goose 会话共用一个套餐密钥时请求等待或失败。 一个套餐会话同一时间只处理一个请求,所以请给每个 goose 会话单独分配一个。

常见问题

goose 的 API URL 应该以 /v1 结尾,还是以 /v1/chat/completions 结尾?

goose 官方的自定义供应商示例用的是完整的 chat completions 地址,所以请填 https://inference.broadnet.ai/v1/chat/completions。这样也能让 goose 始终走 chat completions,而这正是 BroadNet 提供的接口。

goose 配哪个 BroadNet 模型效果最好?

GLM 5.3(broadnet/glm-5.3)。goose 的文档说它大量使用工具调用,而 BroadNet 只为 GLM 5.3 和 Qwen3.8 27B 列出了工具支持。

goose 能用 BroadNet 的不限量套餐吗?

套餐只覆盖 DeepSeek V4.1 Flash,而 BroadNet 的文档没有为它列出工具调用。goose 说不支持工具调用的模型只能在禁用所有扩展的情况下聊天,所以买一个月之前请先测试。

goose 把 API 密钥存在哪里?

存在系统钥匙串里;如果关闭了 keyring,则存在 secrets.yaml 中。如果用 JSON 文件配置,goose 会改为读取 api_key_env 中指定的环境变量。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity