BroadRouter

SillyTavern an BroadNet Inference anbinden (Custom OpenAI-compatible)

Aktualisiert

Wählen Sie im Panel API Connections von SillyTavern Chat Completion und als Chat Completion Source Custom (OpenAI-compatible). Setzen Sie Custom Endpoint auf https://inference.broadnet.ai/v1, fügen Sie Ihren BroadNet-Schlüssel ein, tippen Sie eine Modell-ID wie broadnet/qwen3.8-27b in Enter a Model ID, klicken Sie auf Connect und dann auf Test Message. Setzen Sie Max Response Length auf 1.000 Tokens oder mehr.

SillyTavern ist ein Open-Source-Chat-Frontend, beliebt für Character-Chats und Rollenspiel. Seine Quelle Custom (OpenAI-compatible) verbindet den API-Typ Chat Completion mit jedem Server, der das generische OpenAI-Schema nutzt. BroadNet Inference stellt unter https://inference.broadnet.ai/v1 Standard-Chat-Completions bereit. BroadRouter ist die Website von BroadNet; die Schritte folgen der SillyTavern-Dokumentation und dem Release 1.19.0.

Einrichtung

  1. Schlüssel besorgen. Erstellen Sie in der BroadNet-Konsole einen Pay-as-you-go-Schlüssel, kaufen Sie einen Stundenschlüssel oder einen unbegrenzten Plan.

  2. Öffnen Sie das Panel API Connections.

  3. Stellen Sie API auf Chat Completion.

  4. Stellen Sie Chat Completion Source auf Custom (OpenAI-compatible).

  5. Füllen Sie das Formular aus:

    Feld Wert
    Custom Endpoint (Base URL) https://inference.broadnet.ai/v1
    Custom API Key Ihr BroadNet-Schlüssel
    Enter a Model ID broadnet/qwen3.8-27b
  6. Klicken Sie auf Connect.

  7. Testen. Klicken Sie auf Test Message. SillyTavern schickt einen einfachen Prompt an das Modell; kommt eine Antwort, steht die Verbindung.

Hängen Sie /chat/completions nicht an die URL an. Laut dem Formular von SillyTavern wird dieses Suffix automatisch ergänzt.

Tippen Sie die Modell-ID ein, statt sie aus Available Models zu wählen. Diese Liste stammt aus /v1/models, das die BroadNet-Dokumentation als Katalog-Metadaten für Monitoring beschreibt. Bei unserer Prüfung am 15. November 2026 enthielt sie nur die zwei Transkriptionsmodelle, die nicht chatten können.

Welches Modell passt?

Modell ID Kontext Hinweise
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash 1.048.576 Lange Chats; das Modell der unbegrenzten Pläne
Qwen3.8 27B broadnet/qwen3.8-27b 262.144 Bilder; von BroadNet auf Arabisch getestet
GLM 5.3 broadnet/glm-5.3 1.048.576 Nur Text; Tools
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b 32.768 Läuft mit dem kostenlosen Guthaben von $5 und mit dem Stundenschlüssel

Ein unbegrenzter Plan passt zu langen Sessions, weil Sie nicht pro Token zahlen: Eine Stunde Meteor kostet $1, eine Woche Orbit $15 und ein Monat Full Moon $60. Jede Plan-Session verarbeitet immer nur eine Anfrage.

Einstellungen, die sich lohnen

  • Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken vor der Antwort nach, und das Reasoning zählt zu diesem Limit. Setzen Sie 1.000 oder mehr, sonst kommen womöglich leere Antworten zurück.
  • Context Size (tokens). Passen Sie den Wert an das Modell in der Tabelle an. SillyTavern kann ihn nicht von BroadNet auslesen.
  • Prompt Post-Processing. Lehnt ein Modell einen Prompt wegen mehrerer System-Nachrichten oder der Reihenfolge der Rollen ab, probieren Sie zuerst Merge consecutive roles, dann Semi-strict. Laut SillyTavern-Dokumentation verwerfen diese Optionen Tool Calls, sofern Sie nicht die Variante „with tools“ wählen.
  • Bypass status check. Wenn SillyTavern meldet, dass die API nicht funktioniert, Test Message aber klappt, setzen Sie hier den Haken.

Fehlerbehebung

  • 401. Der Schlüssel ist falsch, abgelaufen oder sein Kontingent ist aufgebraucht. Fügen Sie ihn erneut ein und klicken Sie auf Connect.
  • 404 oder „model not found“. Die URL muss auf /v1 enden, und die ID muss das Präfix broadnet/ enthalten. Kostenpflichtige Modelle brauchen eine Aufladung; das Guthaben von $5 deckt nur broadnet/gemma-4-26b-a4b und die beiden Transcribe-Modelle ab.
  • Leere Antworten. Erhöhen Sie die Antwortlänge. Warum Antworten leer zurückkommen.
  • 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende; Stundenschlüssel und Plan-Sessions verarbeiten jeweils einen Stream. Siehe Fehlercodes und Retries.

Häufige Fragen

Warum ist die Liste Available Models bei BroadNet falsch oder leer?

SillyTavern füllt sie aus /v1/models. Bei unserer Prüfung am 15. November 2026 führte das öffentliche /v1/models von BroadNet nur die zwei Transkriptionsmodelle auf. Tippen Sie die ID des Chat-Modells stattdessen in Enter a Model ID.

Welches BroadNet-Modell eignet sich am besten für lange Rollenspiel-Chats?

DeepSeek V4.1 Flash hat einen Kontext von 1.048.576 Tokens und ist das Modell der unbegrenzten Flatrate-Pläne von BroadNet. Qwen3.8 27B ist das Modell, das BroadNet auf Arabisch getestet hat, einschließlich Golf- und ägyptischem Dialekt.

Warum kommen in SillyTavern leere Antworten zurück?

Die Chat-Modelle von BroadNet außer Gemma 4 VL 26B denken vor der Antwort nach, und das Reasoning zählt zu max_tokens. Max Response Length in SillyTavern setzt dieses Limit; erhöhen Sie es also auf 1.000 Tokens oder mehr.

Gibt es Inhaltsregeln?

Ja. Die Acceptable Use Policy von BroadNet gilt für alles, was über die API gesendet wird, und ihr Verbot sexueller Inhalte mit Minderjährigen umfasst ausdrücklich auch fiktive und synthetische Inhalte.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen