Open WebUI ist eine selbst gehostete Chat-Oberfläche. Sie verbindet sich mit jedem Anbieter, der das Chat-Completions-Protokoll von OpenAI implementiert, und BroadNet Inference tut das. Die Schritte folgen der Anleitung von Open WebUI für OpenAI-kompatible Anbieter.
Einrichtung
-
BroadNet-Schlüssel besorgen. Für eine Chat-Oberfläche, die mehrere Personen nutzen, passt ein Pay-as-you-go-Schlüssel. Siehe API-Schlüssel und IP-Allowlists.
-
Verbindungsseite öffnen. Gehen Sie im Admin-Bereich zu Settings > Connections und suchen Sie Manage OpenAI API Connections.
-
Klicken Sie auf Add Connection und füllen Sie aus:
Feld Wert URL https://inference.broadnet.ai/v1(ohne Schrägstrich am Ende)API Key Ihr BroadNet-Schlüssel Model IDs jede ID unten einzeln über das Symbol + hinzufügen -
Modell-IDs von Hand hinzufügen. Tippen Sie
broadnet/glm-5.3, klicken Sie auf + und wiederholen Sie das für die anderen gewünschten Modelle. Die BroadNet-Dokumentation beschreibtGET /v1/modelsals öffentliche Katalog-Metadaten für Monitoring; verlassen Sie sich also nicht darauf, dass die Modellauswahl damit gefüllt wird. -
Klicken Sie auf Save. Laut Dokumentation von Open WebUI testet das Speichern die Verbindung nicht.
-
Starten Sie einen Chat und wählen Sie das Modell in der Modellauswahl.
Mit Umgebungsvariablen
Wenn Sie Open WebUI in Docker betreiben, können Sie die Verbindung beim Start setzen:
OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key
Um BroadNet neben einer bestehenden OpenAI-Verbindung hinzuzufügen, nutzen Sie die Pluralformen, getrennt durch Semikolons: OPENAI_API_BASE_URLS und OPENAI_API_KEYS. OPENAI_API_CONFIGS setzt Optionen pro Verbindung wie model_ids, adressiert über den Index der Verbindung in dieser Liste:
OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'
Die Referenz der Umgebungsvariablen von Open WebUI kennzeichnet diese als ConfigVar-Einstellungen. Sie werden beim ersten Start gelesen und in der Datenbank gespeichert. Danach gilt, was im Admin-Panel steht. Bearbeiten Sie die Verbindung im Admin-Bereich unter Settings > Connections oder setzen Sie ENABLE_PERSISTENT_CONFIG=False, wenn die Umgebung bei jedem Start gelten soll.
Welches Modell passt?
| Einsatz | Modell | Kontext |
|---|---|---|
| Allgemeiner Chat, Tools, JSON | broadnet/glm-5.3 |
1.048.576 |
| Fragen zu Bildern, Arabisch | broadnet/qwen3.8-27b |
262.144 |
| Lange Dokumente, Bilder | broadnet/deepseek-v4.1-flash |
1.048.576 |
| Günstig, kostenloses Guthaben | broadnet/gemma-4-26b-a4b |
32.768 |
BroadNet hat Qwen3.8 27B auf Arabisch getestet, auch mit Golf-Arabisch und Ägyptisch; siehe ein LLM für Arabisch auswählen. Gemma 4 VL 26B ist das einzige Chatmodell, das mit dem Startguthaben von $5 funktioniert; das Guthaben deckt außerdem die beiden Transcribe-Modelle ab. Die Preise stehen auf der Preisseite.
Open WebUI übergibt Standardparameter wie temperature und max_tokens und unterstützt Tool-Nutzung, wenn Modell und Server tools unterstützen. BroadNet nennt Tools für GLM 5.3 und Qwen3.8 27B.
Fehlerbehebung
- Verify Connection schlägt mit 400, 401 oder 403 fehl. Der Verify-Button von Open WebUI ruft
/modelsauf. Laut Dokumentation können Chat Completions trotzdem funktionieren. Tragen Sie die IDs in die Allowlist ein und testen Sie einen Chat. Liefert auch der Chat 401, ist der Schlüssel falsch, abgelaufen oder das Pay-as-you-go-Kontingent ist aufgebraucht. - Das Modell ist gelistet, aber die erste Nachricht schlägt fehl. Prüfen Sie, ob die ID exakt der von BroadNet entspricht, mit dem Präfix
broadnet/. GLM 5.3, Qwen3.8 27B und DeepSeek V4.1 Flash brauchen eine Aufladung. - Leere Antworten. Reasoning-Modelle (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) verbrauchen zuerst Output-Tokens fürs Reasoning. Wenn Sie max_tokens in den Advanced Params des Modells gesetzt haben, erhöhen oder leeren Sie den Wert. Warum Antworten leer zurückkommen.
- 429, wenn mehrere Personen chatten. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig. Open WebUI macht außerdem Hintergrundaufrufe mit demselben Schlüssel, etwa für Chat-Titel. Siehe Fehlercodes und Retries.
- Geänderte Umgebungsvariablen bewirken nichts. Der erste Start hat die alten Werte gespeichert. Bearbeiten Sie die Verbindung im Admin-Panel oder lesen Sie den Abschnitt zu Umgebungsvariablen oben.
- Mit einem Plan-Schlüssel. Eine Session eines unbegrenzten Plans verarbeitet immer nur eine Anfrage, und Schlüssel dürfen nicht geteilt werden. Das passt zu einer Instanz, die eine Person allein nutzt; Anfragen weiterer Nutzer landen in der Warteschlange.
