ホーム ガイド Jan で BroadNet Inference を OpenAI 互換のカスタムプロバイダーとして使う Jan で BroadNet Inference を OpenAI 互換のカスタムプロバイダーとして使う 更新日 2026-11-16
Jan で Settings > Model Providers を開き、Add Provider をクリックします。OpenAI-compatible を選び、名前を BroadNet、Base URL を https://inference.broadnet.ai/v1 にして BroadNet のキーを貼り付けます。次に + ボタンで broadnet/glm-5.3 などのチャットモデルを手動で追加し、モデルごとの capabilities で Tools やビジョンをオンにします。
Jan は、ローカルモデルを動かせて、クラウドの API にも接続できるオープンソースのデスクトップチャットアプリです。OpenAI 形式に対応したサービスなら、どれでもカスタムプロバイダー として追加できます。BroadNet Inference は https://inference.broadnet.ai/v1 で標準的な chat completions を提供しています。BroadRouter は BroadNet 自身のサイトです。手順は Jan 0.8.8 時点の Jan の Custom Endpoints のページ に従っています。
設定手順
キーを取得します。 BroadNet のコンソールで従量課金のキーを作成するか、時間制キーかプランを購入します。
ダイアログを開きます。 Settings > Model Providers に進み、一覧の横にある Add Provider ボタンをクリックします。
API 形式を選びます。 デフォルトの OpenAI-compatible を選びます。
詳細を入力します。
フィールド
値
Provider name
BroadNet
Base URL
https://inference.broadnet.ai/v1
API key
BroadNet のキー
Create をクリックします。
モデルを手動で追加します。 プロバイダーの Models セクションで + をクリックし、チャットモデルの ID を 1 つずつ正確に入力します。例:broadnet/glm-5.3。
機能を設定します。 各モデルの横にある鉛筆アイコンをクリックし、そのモデルが対応する機能をオンにします(下の表)。カスタムプロバイダーでは Jan がこれを自動判別できません。
テストします。 新しいチャットを開始し、モデルセレクターで BroadNet のモデルを選んで、短いメッセージを送ります。
Jan は保存時に https://inference.broadnet.ai/v1/models を取得します。BroadNet のドキュメントではこのエンドポイントをモニター向けのカタログメタデータと説明しており、2026 年 11 月 15 日に確認したときは 2 つの文字起こしモデルしか載っていませんでした。これらはチャットできないので、表示された場合は削除してください。
モデル ID と機能
モデル
ID
Tools
画像
コンテキスト
GLM 5.3
broadnet/glm-5.3
オン
オフ
1,048,576
Qwen3.8 27B
broadnet/qwen3.8-27b
オン
オン
262,144
DeepSeek V4.1 Flash
broadnet/deepseek-v4.1-flash
オフ(BroadNet に記載なし)
オン
1,048,576
BroadNet Gemma 4 VL 26B
broadnet/gemma-4-26b-a4b
オフ
オン
32,768
broadnet/gemma-4-26b-a4b は $5 の初回クレジットで動く唯一のチャットモデルで、BroadNet の時間制キー (1 時間 $0.50、ストリーム 1 本)で使われるモデルでもあります。ほかのモデルにはチャージが必要です。DeepSeek V4.1 Flash は無制限プラン でも使えます。
変更しておきたい設定
出力の上限。 3 つのモデルは回答の前に推論し、推論は max_tokens に含まれます。BroadNet のモデルに出力の上限を設定する場合は、1,000 トークン以上にしてください。
サンプラー。 カスタムプロバイダーでは Jan がサンプリングパラメーターをすべて表示しますが、ドキュメントでは、カスタムエンドポイントが対応していないサンプラーを黙って無視する場合があると注意しています。min-P などの設定が効いていないように見えるのはそのためです。
フォールバック用のキー。 Jan はプロバイダーごとに複数のキーを保持でき、401、403、429 のときは次のキーで再試行します。BroadNet の利用規定(AUP) はレートや同時実行の制限を回避することを禁じているので、追加のキーはフェイルオーバー用にとどめ、制限を増やす目的では使わないでください。
トラブルシューティング
すべてのリクエストが 404 になる。 Base URL に /v1 がありません。Jan のドキュメントでは、これが最もよくある間違いとされています。
401 または 403。 キーが間違っている、期限切れ、または利用枠を使い切っています。Test keys が通ってもキーが使えるとは限りません。確認したときの BroadNet の /v1/models はキーなしでも応答したからです。
モデルが見つからない。 broadnet/ プレフィックスを含めて ID を確認してください。有料モデルにはチャージが必要です。
回答が空になる。 推論で出力の枠を使い切っています。出力の上限を上げてください。回答が空で返ってくる理由 。
429。 従量課金のキーでは 1 分あたり 30 リクエスト、処理中のリクエストは同時に 4 個までです。時間制キーではストリームは 1 本です。エラーとリトライ を参照してください。
このガイドの用語 ベース URL(base URL) ベース URL とは、https://api.example.com/v1 のような API の固定のルートアドレスで、クライアントが /chat/completions などのエンドポイントパスの前に付けます。OpenAI 互換の SDK では、API キーとモデル ID と一緒にベース URL を変えるだけで、同じコードを別のプロバイダーに向けられます。 max_tokens(最大出力トークン数) max_tokens とは、モデルが 1 回の応答で生成できるトークン数の上限を決める LLM API のパラメーターです。生成が上限に達すると止まり、応答は途中で打ち切られたものとして、たとえば finish_reason が "length" になります。 プリペイドクレジット(prepaid credit) プリペイドクレジットとは、使用前に API アカウントに入金しておくお金です。リクエストごとに費用が残高から差し引かれ、残高がなくなると、チャージするまで従量課金のリクエストは止まります。支出は支払った額までに抑えられます。 モデルフォールバック(model fallback) モデルフォールバックとは、失敗した LLM リクエストを順序付きリストの別のモデルやプロバイダーで再試行する手法です。きっかけはエラー、レート制限、コンテキスト長エラー、ポリシーによる拒否などで、クライアントか前段のゲートウェイで実行します。 従量課金(pay-as-you-go) 従量課金とは、使った分だけを支払う料金体系です。トークン、リクエスト、音声の分数などの単位で計測され、サブスクリプションや最低利用額はありません。多くの LLM API はこの方式で、前払いの残高か定期的な請求書から支払います。 同時実行数(concurrency) 同時実行数(concurrency)とは、クライアントが同時に処理中にしているリクエストの数です。開いているリクエストは応答が終わるまで GPU の容量を占有するため、LLM API は毎分リクエスト数とは別に、キーやプランごとにこれを制限することがよくあります。 API キー(API key) API キーとは、API を呼び出すクライアントを識別し、認可するための秘密の文字列です。LLM API では通常 Authorization: Bearer ヘッダーで送り、キーを持つ人は誰でも、そのキーの所有アカウントに課金されるリクエストを送れます。 Chat Completions API(チャット補完 API) Chat Completions API とは、OpenAI の HTTP エンドポイント POST /v1/chat/completions で、モデル名とロール付きメッセージのリストを受け取り、モデルの次のメッセージを返します。そのリクエストと応答の形は、OpenAI 互換のプロバイダーや SDK が使う共通形式になりました。 よくある質問 BroadNet を追加したら Jan に文字起こしモデルしか表示されないのはなぜですか? Jan は保存時に https://inference.broadnet.ai/v1/models を取得します。2026 年 11 月 15 日に確認したところ、BroadNet の公開 /v1/models には 2 つの文字起こしモデルしか載っておらず、これらはチャットでは使えません。削除して、チャットモデルの ID を手動で追加してください。
Jan の Test keys ボタンが OK になりました。キーは有効ですか? 必ずしもそうとは限りません。Jan は /models を呼んでキーをテストしますが、確認したときの BroadNet の /v1/models はキーなしでも応答しました。キーの確認にはチャットメッセージを送ってください。
Jan で BroadNet の時間制キーを使えますか? 使えます。時間制キーで動くのは BroadNet Gemma 4 VL 26B(ID は broadnet/gemma-4-26b-a4b)で、ストリームは同時に 1 本です。チャットウィンドウ 1 つで使うのに向いています。
Jan は BroadNet のモデルが画像やツールに対応しているかを判別できますか? できません。Jan のドキュメントによると、カスタムプロバイダーでは機能が自動判別されません。DeepSeek V4.1 Flash、Qwen3.8 27B、Gemma 4 VL 26B では画像入力を、GLM 5.3 と Qwen3.8 27B では Tools をオンにしてください。
関連ガイド Markdown で読む ChatGPT に聞く Claude に聞く Perplexity に聞く