BroadRouter

Jan で BroadNet Inference を OpenAI 互換のカスタムプロバイダーとして使う

更新日

Jan で Settings > Model Providers を開き、Add Provider をクリックします。OpenAI-compatible を選び、名前を BroadNet、Base URL を https://inference.broadnet.ai/v1 にして BroadNet のキーを貼り付けます。次に + ボタンで broadnet/glm-5.3 などのチャットモデルを手動で追加し、モデルごとの capabilities で Tools やビジョンをオンにします。

Jan は、ローカルモデルを動かせて、クラウドの API にも接続できるオープンソースのデスクトップチャットアプリです。OpenAI 形式に対応したサービスなら、どれでもカスタムプロバイダーとして追加できます。BroadNet Inference は https://inference.broadnet.ai/v1 で標準的な chat completions を提供しています。BroadRouter は BroadNet 自身のサイトです。手順は Jan 0.8.8 時点の Jan の Custom Endpoints のページに従っています。

設定手順

  1. キーを取得します。 BroadNet のコンソールで従量課金のキーを作成するか、時間制キーかプランを購入します。

  2. ダイアログを開きます。 Settings > Model Providers に進み、一覧の横にある Add Provider ボタンをクリックします。

  3. API 形式を選びます。 デフォルトの OpenAI-compatible を選びます。

  4. 詳細を入力します。

    フィールド 値
    Provider name BroadNet
    Base URL https://inference.broadnet.ai/v1
    API key BroadNet のキー
  5. Create をクリックします。

  6. モデルを手動で追加します。 プロバイダーの Models セクションで + をクリックし、チャットモデルの ID を 1 つずつ正確に入力します。例:broadnet/glm-5.3。

  7. 機能を設定します。 各モデルの横にある鉛筆アイコンをクリックし、そのモデルが対応する機能をオンにします(下の表)。カスタムプロバイダーでは Jan がこれを自動判別できません。

  8. テストします。 新しいチャットを開始し、モデルセレクターで BroadNet のモデルを選んで、短いメッセージを送ります。

Jan は保存時に https://inference.broadnet.ai/v1/models を取得します。BroadNet のドキュメントではこのエンドポイントをモニター向けのカタログメタデータと説明しており、2026 年 11 月 15 日に確認したときは 2 つの文字起こしモデルしか載っていませんでした。これらはチャットできないので、表示された場合は削除してください。

モデル ID と機能

モデル ID Tools 画像 コンテキスト
GLM 5.3 broadnet/glm-5.3 オン オフ 1,048,576
Qwen3.8 27B broadnet/qwen3.8-27b オン オン 262,144
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash オフ(BroadNet に記載なし) オン 1,048,576
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b オフ オン 32,768

broadnet/gemma-4-26b-a4b は $5 の初回クレジットで動く唯一のチャットモデルで、BroadNet の時間制キー(1 時間 $0.50、ストリーム 1 本)で使われるモデルでもあります。ほかのモデルにはチャージが必要です。DeepSeek V4.1 Flash は無制限プランでも使えます。

変更しておきたい設定

  • 出力の上限。 3 つのモデルは回答の前に推論し、推論は max_tokens に含まれます。BroadNet のモデルに出力の上限を設定する場合は、1,000 トークン以上にしてください。
  • サンプラー。 カスタムプロバイダーでは Jan がサンプリングパラメーターをすべて表示しますが、ドキュメントでは、カスタムエンドポイントが対応していないサンプラーを黙って無視する場合があると注意しています。min-P などの設定が効いていないように見えるのはそのためです。
  • フォールバック用のキー。 Jan はプロバイダーごとに複数のキーを保持でき、401、403、429 のときは次のキーで再試行します。BroadNet の利用規定(AUP)はレートや同時実行の制限を回避することを禁じているので、追加のキーはフェイルオーバー用にとどめ、制限を増やす目的では使わないでください。

トラブルシューティング

  • すべてのリクエストが 404 になる。 Base URL に /v1 がありません。Jan のドキュメントでは、これが最もよくある間違いとされています。
  • 401 または 403。 キーが間違っている、期限切れ、または利用枠を使い切っています。Test keys が通ってもキーが使えるとは限りません。確認したときの BroadNet の /v1/models はキーなしでも応答したからです。
  • モデルが見つからない。 broadnet/ プレフィックスを含めて ID を確認してください。有料モデルにはチャージが必要です。
  • 回答が空になる。 推論で出力の枠を使い切っています。出力の上限を上げてください。回答が空で返ってくる理由。
  • 429。 従量課金のキーでは 1 分あたり 30 リクエスト、処理中のリクエストは同時に 4 個までです。時間制キーではストリームは 1 本です。エラーとリトライを参照してください。

よくある質問

BroadNet を追加したら Jan に文字起こしモデルしか表示されないのはなぜですか?

Jan は保存時に https://inference.broadnet.ai/v1/models を取得します。2026 年 11 月 15 日に確認したところ、BroadNet の公開 /v1/models には 2 つの文字起こしモデルしか載っておらず、これらはチャットでは使えません。削除して、チャットモデルの ID を手動で追加してください。

Jan の Test keys ボタンが OK になりました。キーは有効ですか?

必ずしもそうとは限りません。Jan は /models を呼んでキーをテストしますが、確認したときの BroadNet の /v1/models はキーなしでも応答しました。キーの確認にはチャットメッセージを送ってください。

Jan で BroadNet の時間制キーを使えますか?

使えます。時間制キーで動くのは BroadNet Gemma 4 VL 26B(ID は broadnet/gemma-4-26b-a4b)で、ストリームは同時に 1 本です。チャットウィンドウ 1 つで使うのに向いています。

Jan は BroadNet のモデルが画像やツールに対応しているかを判別できますか?

できません。Jan のドキュメントによると、カスタムプロバイダーでは機能が自動判別されません。DeepSeek V4.1 Flash、Qwen3.8 27B、Gemma 4 VL 26B では画像入力を、GLM 5.3 と Qwen3.8 27B では Tools をオンにしてください。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く