BroadRouter
始める

Open WebUI を BroadNet Inference に接続する

更新日

Open WebUI の管理者セクションの Settings > Connections で、Manage OpenAI API Connections の Add Connection をクリックし、URL に https://inference.broadnet.ai/v1、API Key に BroadNet のキーを設定します。続けて broadnet/glm-5.3 などのモデル ID を Model IDs の許可リストに追加して保存します。

Open WebUI はセルフホスト型のチャット UI です。OpenAI の chat completions プロトコルを実装したプロバイダーなら何でも接続でき、BroadNet Inference も対応しています。手順は Open WebUI の OpenAI 互換プロバイダー向けガイドに沿っています。

設定手順

  1. BroadNet のキーを用意します。 複数の人が使うチャット UI には、従量課金のキーが適しています。API キーと IP 許可リストを参照してください。

  2. 接続のページを開きます。 管理者セクションの Settings > Connections を開き、Manage OpenAI API Connections を探します。

  3. Add Connection をクリックして、次のように入力します。

    フィールド 値
    URL https://inference.broadnet.ai/v1(末尾のスラッシュなし)
    API Key BroadNet のキー
    Model IDs 下の ID を + アイコンで 1 つずつ追加
  4. モデル ID を手動で追加します。 broadnet/glm-5.3 と入力して + をクリックし、使いたいほかのモデルについても繰り返します。BroadNet のドキュメントでは GET /v1/models は監視ツール向けの公開カタログのメタデータとされているので、モデル選択の一覧の自動入力には頼らないでください。

  5. Save をクリックします。 Open WebUI のドキュメントにあるとおり、保存しても接続のテストは行われません。

  6. チャットを始め、モデルセレクターからモデルを選びます。

環境変数で設定する

Docker で Open WebUI を動かしている場合は、起動時に接続を設定できます。

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

既存の OpenAI の接続に加えて BroadNet を追加するには、セミコロン区切りの複数形 OPENAI_API_BASE_URLS と OPENAI_API_KEYS を使います。OPENAI_API_CONFIGS では model_ids などの接続ごとのオプションを、そのリスト内の接続のインデックスをキーにして設定します。

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

Open WebUI の環境変数リファレンスでは、これらは ConfigVar の設定とされています。初回起動時に読み込まれてデータベースに保存され、それ以降は管理パネルの設定が優先されます。接続は管理者セクションの Settings > Connections で編集するか、起動のたびに環境変数を適用したい場合は ENABLE_PERSISTENT_CONFIG=False を設定してください。

モデルの選び方

用途 モデル コンテキスト
一般的なチャット、ツール、JSON broadnet/glm-5.3 1,048,576
画像についての質問、アラビア語 broadnet/qwen3.8-27b 262,144
長いドキュメント、画像 broadnet/deepseek-v4.1-flash 1,048,576
低コスト、無料クレジット broadnet/gemma-4-26b-a4b 32,768

BroadNet は Qwen3.8 27B を、湾岸方言とエジプト方言を含むアラビア語でテストしています。アラビア語向け LLM の選び方を参照してください。$5 の初回クレジットで使えるチャットモデルは Gemma 4 VL 26B だけです。このクレジットは 2 つの Transcribe モデルにも使えます。各モデルの料金は料金ページにあります。

Open WebUI は temperature や max_tokens などの標準パラメーターを渡し、モデルとサーバーが tools に対応していればツールの利用にも対応します。BroadNet がツールを記載しているのは GLM 5.3 と Qwen3.8 27B です。

トラブルシューティング

  • Verify Connection が 400、401、403 で失敗する。 Open WebUI の確認ボタンは /models を呼び出します。ドキュメントによると、それでもチャット補完は動く場合があります。ID を許可リストに追加し、チャットを試してください。チャットでも 401 が返る場合は、キーが間違っている、期限切れ、または従量課金の利用枠を使い切っています。
  • モデルは一覧にあるのに、最初のメッセージが失敗する。 ID が broadnet/ プレフィックスを含めて BroadNet のものと完全に一致しているか確認してください。GLM 5.3、Qwen3.8 27B、DeepSeek V4.1 Flash にはチャージが必要です。
  • 応答が空。 推論モデル(DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B)は、まず出力トークンを推論に使います。モデルの Advanced Params で max_tokens を設定している場合は、値を上げるか空にしてください。回答が空になる理由。
  • 複数人がチャットすると 429。 従量課金のキーは毎分 30 リクエスト、同時実行 4 リクエストまでです。Open WebUI は、チャットのタイトル生成などのバックグラウンドの呼び出しも同じキーで行います。エラーとリトライを参照してください。
  • 環境変数を変えても何も変わらない。 初回起動時に古い値が保存されています。管理パネルで接続を編集するか、上の環境変数のセクションを参照してください。
  • プランのキーを使う場合。 無制限プランのセッションは同時に 1 リクエストしか処理せず、キーは共有できません。個人で使うインスタンス向けで、ほかのユーザーのリクエストは待ち行列に入ります。

よくある質問

Verify Connection は失敗するのに、チャットは使えるのはなぜですか?

Open WebUI の確認ボタンはプロバイダーの /models エンドポイントを呼び出します。ドキュメントによると、確認が失敗してもチャットが使えないとは限りません。BroadNet のモデル ID を Model IDs の許可リストに手動で追加してください。

環境変数で接続を設定できますか?

はい。OPENAI_API_BASE_URL を https://inference.broadnet.ai/v1、OPENAI_API_KEY を BroadNet のキーに設定します。Open WebUI はこれらを初回起動時に保存するため、ENABLE_PERSISTENT_CONFIG が False でない限り、後から変数を変えても反映されません。

OPENAI_API_BASE_URL を変えたのに反映されないのはなぜですか?

Open WebUI はこれを ConfigVar として扱います。初回起動後は、データベースに保存された値を使います。管理者セクションの Settings > Connections で URL を変更するか、ENABLE_PERSISTENT_CONFIG=False を設定して起動のたびに環境変数を読むようにしてください。

Open WebUI で、チーム全員が 1 つの無制限プランのキーを共有できますか?

いいえ。BroadNet のプランではキーの共有は認められておらず、1 つのプランセッションは同時に 1 リクエストしか処理しません。共有の Open WebUI には従量課金のキーを使ってください。

Markdown で読むChatGPT に聞くClaude に聞くPerplexity に聞く