BroadRouter
始める

Continue で BroadNet Inference を使う(config.yaml と apiBase)

更新日

~/.continue/config.yaml にモデルを追加し、provider を openai、model を broadnet/glm-5.3 などの BroadNet の ID、apiBase を https://inference.broadnet.ai/v1、apiKey を BroadNet のキーにします。Agent モードを使うなら capabilities に tool_use を加え、defaultCompletionOptions の下に contextLength と maxTokens を設定します。

Continue は VS Code と JetBrains 向けのオープンソースの AI アシスタントです。Continue の OpenAI プロバイダーのドキュメントにあるように、openai プロバイダーで apiBase を上書きすると OpenAI 互換サーバーにつながります。BroadNet Inference はこのパターンに当てはまります。リクエストの形式は同じで、ベース URL とモデル ID だけが違います。

設定手順

  1. BroadNet のキーを用意します。 コンソールで作成してください。API キーを参照してください。
  2. ローカルの設定を開きます。 場所は macOS と Linux では ~/.continue/config.yaml、Windows では %USERPROFILE%\.continue\config.yaml です。IDE では、チャット入力欄の上にある設定のドロップダウンを開き、Local Config の横の歯車アイコンをクリックします。
  3. モデルを追加します。
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. 保存してモデルを選びます。 Continue パネルのモデルセレクターで選択してください。

このファイルにはキーが含まれるので、バージョン管理には入れないでください。

各フィールドの役割

  • provider: openai で、Continue は標準的な chat completions のリクエストを送ります。
  • apiBase はデフォルトの OpenAI のアドレスを置き換えます。/chat/completions は付けないでください。パスは Continue が付け足します。
  • capabilities は Continue の自動検出を上書きします。リファレンスによると、Agent モードには tool_use が必須で、image_input で画像のアップロードが有効になります。カスタムの ID ではこれらを検出できないため、明示的に設定してください。
  • contextLength と maxTokens は defaultCompletionOptions の下に置きます。BroadNet では推論の分も maxTokens に数えられるので、余裕を残してください。
  • roles のデフォルトは chat、edit、apply、summarize です。autocomplete は入れていません。これらのモデルは回答の前に推論を行うので、キー入力単位の補完よりもチャットや編集に向いています。

モデルの選び方

用途 モデル 理由
チャットと Agent モード broadnet/glm-5.3 ツールと構造化出力、1M コンテキスト
スクリーンショット、アラビア語 broadnet/qwen3.8-27b ツールと画像入力、262K コンテキスト
定額プランでの長いチャット broadnet/deepseek-v4.1-flash 無制限プラン、1M コンテキスト。ツールは掲載なし

DeepSeek V4.1 Flash では、自分でテストしてツール呼び出しが動くと確認できない限り tool_use を外し、contextLength: 1048576 を設定してください。全モデルの料金は料金ページにあります。GLM 5.3 のモデルページにはその制限が載っています。

トラブルシューティング

  • 401。 apiKey を確認してください。従量課金のキーが間違っている、期限切れ、または利用枠を使い切っていると 401 が返ります。
  • 最初のリクエストでモデルのエラーになる。 model は broadnet/ プレフィックスを含む正確な BroadNet の ID でなければなりません。GLM 5.3、Qwen3.8 27B、DeepSeek V4.1 Flash にはチャージが必要です。$5 の初回クレジットで使えるのは BroadNet Gemma 4 VL 26B と 2 つの Transcribe モデルです。
  • 返答が空、または途中で切れる。 maxTokens を大きくしてください。回答が空で返ってくる理由。
  • 429。 従量課金のキーでは 1 分あたり 30 リクエスト、同時に 4 リクエストまでです。Agent モードは呼び出しを立て続けに行うので、ワークフローにバックオフを入れるか、実行の間隔を空けてください。エラーとリトライを参照してください。
  • プランのキーで複数のエージェントを同時に動かしている。 無制限プランのセッションは、それぞれ一度に 1 つのリクエストしか処理しません。並行して動かすエージェントごとに専用のセッションを割り当ててください。
  • エンドポイントが違う。 Continue のドキュメントには useLegacyCompletionsEndpoint と useResponsesApi が出てきます。legacy のオプションは設定しないでください。BroadNet が提供するのは /v1/chat/completions です。Continue がデフォルトで /responses を使うのは OpenAI の o シリーズと GPT-5 モデルだけなので、BroadNet の ID は追加の設定なしで chat completions を使います。

よくある質問

Continue の config.yaml はどこにありますか?

ローカルのファイルは、macOS と Linux では ~/.continue/config.yaml、Windows では %USERPROFILE%\.continue\config.yaml です。設定のドロップダウンで Local Config の横にある歯車アイコンからも開けます。

BroadNet のモデルで Agent モードが使えないのはなぜですか?

Continue の Agent モードには tool_use の capability が必要です。モデルのエントリーに tool_use を含む capabilities を追加し、broadnet/glm-5.3 のように BroadNet がツール対応として掲載しているモデルを選んでください。

Continue の回答が空になるのはなぜですか?

回答が始まる前に推論が maxTokens を使い切っています。defaultCompletionOptions の下の maxTokens を数千に上げてください。

Continue では config.json と config.yaml のどちらを使うべきですか?

config.yaml を使ってください。Continue のドキュメントでは config.json とそのリファレンスが非推奨とされており、現在の例はすべて schema v1 の YAML です。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く