LibreChat ist eine quelloffene Chat-App, die OpenAI-kompatible Dienste als Custom Endpoints unterstützt. Sie definieren sie in librechat.yaml, legen die Schlüssel in .env ab und mounten die YAML-Datei unter Docker in den Container. BroadRouter ist die Website von BroadNet selbst; die Schritte folgen dem Leitfaden zu Custom Endpoints von LibreChat.
Einrichtung
- librechat.yaml mounten (nur Docker). Kopieren Sie
docker-compose.override.yml.examplenachdocker-compose.override.ymlund stellen Sie sicher, dass das Volume aktiv ist:
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- Endpoint hinzufügen – in
librechat.yamlim Projektstamm, unterendpoints.custom:
endpoints:
custom:
- name: 'BroadNet'
apiKey: '${BROADNET_API_KEY}'
baseURL: 'https://inference.broadnet.ai/v1'
models:
default:
- 'broadnet/glm-5.3'
- 'broadnet/qwen3.8-27b'
- 'broadnet/deepseek-v4.1-flash'
- 'broadnet/gemma-4-26b-a4b'
fetch: false
titleConvo: true
titleModel: 'broadnet/gemma-4-26b-a4b'
modelDisplayLabel: 'BroadNet'
Behalten Sie vorhandene Top-Level-Schlüssel Ihrer Datei bei, etwa version.
- Schlüssel setzen in
.env:
BROADNET_API_KEY=your-broadnet-key
- LibreChat neu starten. Mit Docker:
docker compose down && docker compose up -d. Bei einer lokalen Installation starten Sie mitnpm run backendneu. Danach erscheint BroadNet in der Endpoint-Auswahl.
Hinweise zu den Feldern
- baseURL. LibreChat hängt
/chat/completionsselbst an; nutzen Sie also den/v1-Stamm von oben. Setzen Sie nichtdirectEndpoint: true– diese Option ist für eine baseURL gedacht, die bereits die vollständige Completions-URL ist. - fetch: false. Das ist der Standard von LibreChat; wir setzen es, damit die Wahl sichtbar ist. Die BroadNet-Dokumentation beschreibt
GET /v1/modelsals öffentliche Katalog-Metadaten für Monitore, daher ist eine Modellliste indefaultberechenbarer. - titleModel. LibreChat erzeugt für jeden Chat mit einer zusätzlichen Anfrage einen Titel. Ein kleines, günstiges Modell ohne Reasoning hält diesen Aufruf kurz. Die BroadNet-Dokumentation nennt für Gemma 4 VL 26B kein Reasoning.
- user_provided. Setzen Sie
apiKey: 'user_provided', wenn jeder Nutzer seinen eigenen BroadNet-Schlüssel in der Oberfläche eingeben soll. LibreChat speichert den Schlüssel jedes Nutzers verschlüsselt und fragt ihn ab, sobald der Endpoint zum ersten Mal gewählt wird. - Eindeutiger Name. Ein zweiter Endpoint mit demselben Namen (ohne Rücksicht auf Groß-/Kleinschreibung) ersetzt den ersten stillschweigend. Haben Sie schon einen Eintrag namens BroadNet, benennen Sie einen um.
- Keine Schlüssel im Klartext. Die LibreChat-Dokumentation empfiehlt den Verweis
${VAR}statt eines inlibrechat.yamleingetippten Schlüssels, der sonst im Klartext in der Datei stünde.
Welches Modell passt?
| Einsatz | Modell |
|---|---|
| Standard-Chat, Tools, JSON | GLM 5.3 |
| Bilder und Arabisch | Qwen3.8 27B |
| Lange Dokumente, 1M Kontext | DeepSeek V4.1 Flash |
| Titel und schnelle Antworten | BroadNet Gemma 4 VL 26B |
Von diesen Modellen läuft nur Gemma 4 VL 26B mit dem Startguthaben von $5, das außerdem die beiden Transcribe-Modelle abdeckt. Preise vergleichen Sie auf der Preisseite.
Fehlerbehebung
- Der Endpoint erscheint nicht. Prüfen Sie, ob
name,baseURL,apiKeyundmodels.defaultrichtig geschrieben und innerhalb vonendpoints.customeingerückt sind. LibreChat verwirft unvollständige Einträge ohne Logzeile. Prüfen Sie unter Docker, ob der Bind-Mount indocker-compose.override.ymlnicht mehr auskommentiert ist. - „Missing API Key for BroadNet“.
BROADNET_API_KEYfehlt in.env, oder LibreChat wurde nicht neu gestartet. Der Endpoint erscheint trotzdem; der Fehler zeigt sich erst beim Senden einer Nachricht. - 401 vom Provider. Der Schlüssel ist falsch oder abgelaufen, oder das Pay-as-you-go-Kontingent ist aufgebraucht.
- Modellfehler. Jede ID muss exakt der BroadNet-ID entsprechen, mit dem Präfix
broadnet/. GLM 5.3, Qwen3.8 27B und DeepSeek V4.1 Flash brauchen eine Aufladung. - Leere Antworten. DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken zuerst nach, und das Reasoning zählt zu
max_tokens. Haben Sie in den Parametern von LibreChat eine kleine maximale Ausgabe gesetzt, erhöhen Sie sie. Warum Antworten leer zurückkommen. - 429 bei vielen Nutzern. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig, geteilt von allen Nutzern des Endpoints. Titelanfragen zählen mit. Mit
user_provided-Schlüsseln verteilt sich die Last. Siehe Fehlercodes und Retries. - Plan-Schlüssel. Eine Session eines unbegrenzten Plans verarbeitet eine Anfrage nach der anderen und lässt sich nicht teilen; sie passt also nicht zu einem LibreChat mit mehreren Nutzern.
