BroadRouter
开始使用

在 Continue 中使用 BroadNet Inference(config.yaml 与 apiBase)

更新于

在 ~/.continue/config.yaml 中添加一个模型:provider 设为 openai,model 设为 BroadNet 模型 ID(例如 broadnet/glm-5.3),apiBase 设为 https://inference.broadnet.ai/v1,apiKey 填你的 BroadNet 密钥。要用 Agent 模式就加上 capabilities 的 tool_use,并在 defaultCompletionOptions 下设置 contextLength 和 maxTokens。

Continue 是一款适用于 VS Code 和 JetBrains 的开源 AI 助手。如 Continue 的 OpenAI 提供商文档所示,它通过 openai 提供商加上 apiBase 覆盖来连接 OpenAI 兼容服务器。BroadNet Inference 正好符合这个模式:请求格式相同,只是 base URL 和模型 ID 不同。

配置步骤

  1. 获取 BroadNet 密钥,在控制台中创建。参见 API 密钥。
  2. 打开本地配置。 它在 macOS 和 Linux 上位于 ~/.continue/config.yaml,在 Windows 上位于 %USERPROFILE%\.continue\config.yaml。在 IDE 中,打开聊天输入框上方的配置下拉菜单,点击 Local Config 旁的齿轮图标。
  3. 添加模型。
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. 保存并选择模型:在 Continue 面板的模型选择器中选中它。

这个文件里有密钥,所以不要把它纳入版本控制。

各字段的作用

  • provider: openai 让 Continue 发送标准的 chat completions 请求。
  • apiBase 替换默认的 OpenAI 地址。不要在末尾加 /chat/completions,路径由 Continue 添加。
  • capabilities 覆盖 Continue 的自动检测。它的参考文档说 Agent 模式需要 tool_use,image_input 则开启图片上传。对于自定义 ID,Continue 无法检测这些能力,所以要手动设置。
  • contextLength 和 maxTokens 放在 defaultCompletionOptions 下。在 BroadNet 上,思考内容计入 maxTokens,所以要留出余量。
  • roles 默认是 chat、edit、apply 和 summarize。我们没有加 autocomplete:这些模型会先思考再回答,更适合聊天和编辑,而不是按键级别的补全。

选哪个模型

用途 模型 原因
聊天和 Agent 模式 broadnet/glm-5.3 工具和结构化输出,1M 上下文
截图、阿拉伯语 broadnet/qwen3.8-27b 工具和图片输入,262K 上下文
在固定价格套餐上长时间聊天 broadnet/deepseek-v4.1-flash 不限量套餐,1M 上下文;未列出工具支持

对于 DeepSeek V4.1 Flash,除非你自己测试过工具调用可用,否则去掉 tool_use,并设置 contextLength: 1048576。所有模型的价格见价格页面。GLM 5.3 模型页面列出了它的各项限制。

故障排查

  • 401。 检查 apiKey。按量付费密钥错误、过期或额度用完时会返回 401。
  • 第一个请求就报模型错误。 model 必须是完整的 BroadNet ID,包括 broadnet/ 前缀。GLM 5.3、Qwen3.8 27B 和 DeepSeek V4.1 Flash 需要先充值;$5 初始额度覆盖 BroadNet Gemma 4 VL 26B 和两个 Transcribe 模型。
  • 回复为空或被截断。 调高 maxTokens。为什么回答会是空的。
  • 429。 按量付费密钥每分钟允许 30 个请求,同时最多 4 个。Agent 模式会连续发出很多调用;请在工作流中加入退避,或者把运行错开。参见错误码与重试。
  • 在一个套餐密钥上同时跑多个智能体。 每个不限量套餐会话同一时间只处理一个请求。给每个并行智能体分配单独的会话。
  • 端点不对。 Continue 的文档提到了 useLegacyCompletionsEndpoint 和 useResponsesApi。不要设置 legacy 选项;BroadNet 提供的是 /v1/chat/completions。Continue 只对 OpenAI 的 o 系列和 GPT-5 模型默认使用 /responses,所以 BroadNet 的 ID 无需额外设置就会走 chat completions。

常见问题

Continue 的 config.yaml 在哪里?

本地文件在 macOS 和 Linux 上是 ~/.continue/config.yaml,在 Windows 上是 %USERPROFILE%\.continue\config.yaml。也可以在配置下拉菜单中点击 Local Config 旁的齿轮图标打开它。

为什么我的 BroadNet 模型用不了 Agent 模式?

Continue 的 Agent 模式需要 tool_use 能力。在模型条目里加上包含 tool_use 的 capabilities,并选择 BroadNet 标明支持工具的模型,例如 broadnet/glm-5.3。

Continue 为什么返回空回答?

思考内容在回答开始前就用完了 maxTokens。把 defaultCompletionOptions 下的 maxTokens 调高到几千。

Continue 应该用 config.json 还是 config.yaml?

用 config.yaml。Continue 的文档把 config.json 及其参考标为已弃用,当前所有示例都使用 schema v1 的 YAML。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity