BroadRouter
Loslegen

Open WebUI mit BroadNet Inference verbinden

Aktualisiert

Öffnen Sie in Open WebUI im Admin-Bereich Settings > Connections, klicken Sie unter Manage OpenAI API Connections auf Add Connection, setzen Sie URL auf https://inference.broadnet.ai/v1 und API Key auf Ihren BroadNet-Schlüssel. Tragen Sie dann Modell-IDs wie broadnet/glm-5.3 in die Allowlist Model IDs ein und speichern Sie.

Open WebUI ist eine selbst gehostete Chat-Oberfläche. Sie verbindet sich mit jedem Anbieter, der das Chat-Completions-Protokoll von OpenAI implementiert, und BroadNet Inference tut das. Die Schritte folgen der Anleitung von Open WebUI für OpenAI-kompatible Anbieter.

Einrichtung

  1. BroadNet-Schlüssel besorgen. Für eine Chat-Oberfläche, die mehrere Personen nutzen, passt ein Pay-as-you-go-Schlüssel. Siehe API-Schlüssel und IP-Allowlists.

  2. Verbindungsseite öffnen. Gehen Sie im Admin-Bereich zu Settings > Connections und suchen Sie Manage OpenAI API Connections.

  3. Klicken Sie auf Add Connection und füllen Sie aus:

    Feld Wert
    URL https://inference.broadnet.ai/v1 (ohne Schrägstrich am Ende)
    API Key Ihr BroadNet-Schlüssel
    Model IDs jede ID unten einzeln über das Symbol + hinzufügen
  4. Modell-IDs von Hand hinzufügen. Tippen Sie broadnet/glm-5.3, klicken Sie auf + und wiederholen Sie das für die anderen gewünschten Modelle. Die BroadNet-Dokumentation beschreibt GET /v1/models als öffentliche Katalog-Metadaten für Monitoring; verlassen Sie sich also nicht darauf, dass die Modellauswahl damit gefüllt wird.

  5. Klicken Sie auf Save. Laut Dokumentation von Open WebUI testet das Speichern die Verbindung nicht.

  6. Starten Sie einen Chat und wählen Sie das Modell in der Modellauswahl.

Mit Umgebungsvariablen

Wenn Sie Open WebUI in Docker betreiben, können Sie die Verbindung beim Start setzen:

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

Um BroadNet neben einer bestehenden OpenAI-Verbindung hinzuzufügen, nutzen Sie die Pluralformen, getrennt durch Semikolons: OPENAI_API_BASE_URLS und OPENAI_API_KEYS. OPENAI_API_CONFIGS setzt Optionen pro Verbindung wie model_ids, adressiert über den Index der Verbindung in dieser Liste:

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

Die Referenz der Umgebungsvariablen von Open WebUI kennzeichnet diese als ConfigVar-Einstellungen. Sie werden beim ersten Start gelesen und in der Datenbank gespeichert. Danach gilt, was im Admin-Panel steht. Bearbeiten Sie die Verbindung im Admin-Bereich unter Settings > Connections oder setzen Sie ENABLE_PERSISTENT_CONFIG=False, wenn die Umgebung bei jedem Start gelten soll.

Welches Modell passt?

Einsatz Modell Kontext
Allgemeiner Chat, Tools, JSON broadnet/glm-5.3 1.048.576
Fragen zu Bildern, Arabisch broadnet/qwen3.8-27b 262.144
Lange Dokumente, Bilder broadnet/deepseek-v4.1-flash 1.048.576
Günstig, kostenloses Guthaben broadnet/gemma-4-26b-a4b 32.768

BroadNet hat Qwen3.8 27B auf Arabisch getestet, auch mit Golf-Arabisch und Ägyptisch; siehe ein LLM für Arabisch auswählen. Gemma 4 VL 26B ist das einzige Chatmodell, das mit dem Startguthaben von $5 funktioniert; das Guthaben deckt außerdem die beiden Transcribe-Modelle ab. Die Preise stehen auf der Preisseite.

Open WebUI übergibt Standardparameter wie temperature und max_tokens und unterstützt Tool-Nutzung, wenn Modell und Server tools unterstützen. BroadNet nennt Tools für GLM 5.3 und Qwen3.8 27B.

Fehlerbehebung

  • Verify Connection schlägt mit 400, 401 oder 403 fehl. Der Verify-Button von Open WebUI ruft /models auf. Laut Dokumentation können Chat Completions trotzdem funktionieren. Tragen Sie die IDs in die Allowlist ein und testen Sie einen Chat. Liefert auch der Chat 401, ist der Schlüssel falsch, abgelaufen oder das Pay-as-you-go-Kontingent ist aufgebraucht.
  • Das Modell ist gelistet, aber die erste Nachricht schlägt fehl. Prüfen Sie, ob die ID exakt der von BroadNet entspricht, mit dem Präfix broadnet/. GLM 5.3, Qwen3.8 27B und DeepSeek V4.1 Flash brauchen eine Aufladung.
  • Leere Antworten. Reasoning-Modelle (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) verbrauchen zuerst Output-Tokens fürs Reasoning. Wenn Sie max_tokens in den Advanced Params des Modells gesetzt haben, erhöhen oder leeren Sie den Wert. Warum Antworten leer zurückkommen.
  • 429, wenn mehrere Personen chatten. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig. Open WebUI macht außerdem Hintergrundaufrufe mit demselben Schlüssel, etwa für Chat-Titel. Siehe Fehlercodes und Retries.
  • Geänderte Umgebungsvariablen bewirken nichts. Der erste Start hat die alten Werte gespeichert. Bearbeiten Sie die Verbindung im Admin-Panel oder lesen Sie den Abschnitt zu Umgebungsvariablen oben.
  • Mit einem Plan-Schlüssel. Eine Session eines unbegrenzten Plans verarbeitet immer nur eine Anfrage, und Schlüssel dürfen nicht geteilt werden. Das passt zu einer Instanz, die eine Person allein nutzt; Anfragen weiterer Nutzer landen in der Warteschlange.

Häufige Fragen

Warum schlägt Verify Connection fehl, obwohl der Chat funktioniert?

Der Verify-Button von Open WebUI ruft den /models-Endpoint des Anbieters auf. Laut Dokumentation heißt ein fehlgeschlagener Test nicht, dass der Chat kaputt ist. Tragen Sie die BroadNet-Modell-IDs von Hand in die Allowlist Model IDs ein.

Kann ich die Verbindung über Umgebungsvariablen setzen?

Ja. Setzen Sie OPENAI_API_BASE_URL auf https://inference.broadnet.ai/v1 und OPENAI_API_KEY auf Ihren BroadNet-Schlüssel. Open WebUI speichert diese Werte beim ersten Start; spätere Änderungen an den Variablen werden ignoriert, außer ENABLE_PERSISTENT_CONFIG steht auf False.

Warum wirkt mein neuer Wert für OPENAI_API_BASE_URL nicht?

Open WebUI behandelt ihn als ConfigVar. Nach dem ersten Start nutzt es den Wert, der in seiner Datenbank gespeichert ist. Ändern Sie die URL im Admin-Bereich unter Settings > Connections oder setzen Sie ENABLE_PERSISTENT_CONFIG=False, damit die Umgebung bei jedem Start gelesen wird.

Kann mein ganzes Team in Open WebUI einen Schlüssel eines unbegrenzten Plans teilen?

Nein. Die Pläne von BroadNet erlauben es nicht, einen Schlüssel zu teilen, und eine Plan-Session verarbeitet immer nur eine Anfrage. Nutzen Sie für ein gemeinsames Open WebUI einen Pay-as-you-go-Schlüssel.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen