Open WebUI はセルフホスト型のチャット UI です。OpenAI の chat completions プロトコルを実装したプロバイダーなら何でも接続でき、BroadNet Inference も対応しています。手順は Open WebUI の OpenAI 互換プロバイダー向けガイドに沿っています。
設定手順
-
BroadNet のキーを用意します。 複数の人が使うチャット UI には、従量課金のキーが適しています。API キーと IP 許可リストを参照してください。
-
接続のページを開きます。 管理者セクションの Settings > Connections を開き、Manage OpenAI API Connections を探します。
-
Add Connection をクリックして、次のように入力します。
フィールド 値 URL https://inference.broadnet.ai/v1(末尾のスラッシュなし)API Key BroadNet のキー Model IDs 下の ID を + アイコンで 1 つずつ追加 -
モデル ID を手動で追加します。
broadnet/glm-5.3と入力して + をクリックし、使いたいほかのモデルについても繰り返します。BroadNet のドキュメントではGET /v1/modelsは監視ツール向けの公開カタログのメタデータとされているので、モデル選択の一覧の自動入力には頼らないでください。 -
Save をクリックします。 Open WebUI のドキュメントにあるとおり、保存しても接続のテストは行われません。
-
チャットを始め、モデルセレクターからモデルを選びます。
環境変数で設定する
Docker で Open WebUI を動かしている場合は、起動時に接続を設定できます。
OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key
既存の OpenAI の接続に加えて BroadNet を追加するには、セミコロン区切りの複数形 OPENAI_API_BASE_URLS と OPENAI_API_KEYS を使います。OPENAI_API_CONFIGS では model_ids などの接続ごとのオプションを、そのリスト内の接続のインデックスをキーにして設定します。
OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'
Open WebUI の環境変数リファレンスでは、これらは ConfigVar の設定とされています。初回起動時に読み込まれてデータベースに保存され、それ以降は管理パネルの設定が優先されます。接続は管理者セクションの Settings > Connections で編集するか、起動のたびに環境変数を適用したい場合は ENABLE_PERSISTENT_CONFIG=False を設定してください。
モデルの選び方
| 用途 | モデル | コンテキスト |
|---|---|---|
| 一般的なチャット、ツール、JSON | broadnet/glm-5.3 |
1,048,576 |
| 画像についての質問、アラビア語 | broadnet/qwen3.8-27b |
262,144 |
| 長いドキュメント、画像 | broadnet/deepseek-v4.1-flash |
1,048,576 |
| 低コスト、無料クレジット | broadnet/gemma-4-26b-a4b |
32,768 |
BroadNet は Qwen3.8 27B を、湾岸方言とエジプト方言を含むアラビア語でテストしています。アラビア語向け LLM の選び方を参照してください。$5 の初回クレジットで使えるチャットモデルは Gemma 4 VL 26B だけです。このクレジットは 2 つの Transcribe モデルにも使えます。各モデルの料金は料金ページにあります。
Open WebUI は temperature や max_tokens などの標準パラメーターを渡し、モデルとサーバーが tools に対応していればツールの利用にも対応します。BroadNet がツールを記載しているのは GLM 5.3 と Qwen3.8 27B です。
トラブルシューティング
- Verify Connection が 400、401、403 で失敗する。 Open WebUI の確認ボタンは
/modelsを呼び出します。ドキュメントによると、それでもチャット補完は動く場合があります。ID を許可リストに追加し、チャットを試してください。チャットでも 401 が返る場合は、キーが間違っている、期限切れ、または従量課金の利用枠を使い切っています。 - モデルは一覧にあるのに、最初のメッセージが失敗する。 ID が
broadnet/プレフィックスを含めて BroadNet のものと完全に一致しているか確認してください。GLM 5.3、Qwen3.8 27B、DeepSeek V4.1 Flash にはチャージが必要です。 - 応答が空。 推論モデル(DeepSeek V4.1 Flash、GLM 5.3、Qwen3.8 27B)は、まず出力トークンを推論に使います。モデルの Advanced Params で max_tokens を設定している場合は、値を上げるか空にしてください。回答が空になる理由。
- 複数人がチャットすると 429。 従量課金のキーは毎分 30 リクエスト、同時実行 4 リクエストまでです。Open WebUI は、チャットのタイトル生成などのバックグラウンドの呼び出しも同じキーで行います。エラーとリトライを参照してください。
- 環境変数を変えても何も変わらない。 初回起動時に古い値が保存されています。管理パネルで接続を編集するか、上の環境変数のセクションを参照してください。
- プランのキーを使う場合。 無制限プランのセッションは同時に 1 リクエストしか処理せず、キーは共有できません。個人で使うインスタンス向けで、ほかのユーザーのリクエストは待ち行列に入ります。
