BroadRouter
Loslegen

Jan mit BroadNet Inference als OpenAI-kompatiblem Custom Provider

Aktualisiert

Öffnen Sie in Jan Settings, Model Providers und klicken Sie auf Add Provider. Wählen Sie OpenAI-compatible, nennen Sie den Provider BroadNet, setzen Sie die Base URL auf https://inference.broadnet.ai/v1 und fügen Sie Ihren BroadNet-Schlüssel ein. Fügen Sie dann Chatmodelle von Hand über den Button + hinzu, etwa broadnet/glm-5.3, und aktivieren Sie Tools oder Vision für jedes Modell unter seinen Fähigkeiten.

Jan ist eine quelloffene Desktop-Chat-App, die lokale Modelle ausführt und sich mit Cloud-APIs verbindet. Jeder Dienst, der das OpenAI-Format spricht, lässt sich als Custom Provider hinzufügen. BroadNet Inference stellt unter https://inference.broadnet.ai/v1 Standard-Chat-Completions bereit. BroadRouter ist die Website von BroadNet selbst; die Schritte folgen Jans Seite zu Custom Endpoints zum Stand von Jan 0.8.8.

Einrichtung

  1. Schlüssel besorgen. Erstellen Sie in der BroadNet-Konsole einen Pay-as-you-go-Schlüssel, oder kaufen Sie einen Stunden-Schlüssel oder einen Plan.

  2. Dialog öffnen. Gehen Sie zu Settings > Model Providers und klicken Sie neben der Liste auf Add Provider.

  3. API-Format wählen. Wählen Sie OpenAI-compatible, den Standard.

  4. Angaben ausfüllen:

    Feld Wert
    Provider name BroadNet
    Base URL https://inference.broadnet.ai/v1
    API key Ihr BroadNet-Schlüssel
  5. Klicken Sie auf Create.

  6. Modelle von Hand hinzufügen. Klicken Sie im Bereich Models des Providers auf + und geben Sie jede Chatmodell-ID exakt ein, zum Beispiel broadnet/glm-5.3.

  7. Fähigkeiten setzen. Klicken Sie auf den Stift neben jedem Modell und aktivieren Sie, was es unterstützt (Tabelle unten). Bei Custom Providern kann Jan das nicht erkennen.

  8. Testen. Starten Sie einen neuen Chat, wählen Sie in der Modellauswahl das BroadNet-Modell und senden Sie eine kurze Nachricht.

Jan ruft beim Speichern https://inference.broadnet.ai/v1/models ab. Die BroadNet-Dokumentation beschreibt diesen Endpoint als Katalog-Metadaten für Monitoring, und bei unserer Prüfung am 15. November 2026 listete er nur die beiden Transkriptionsmodelle. Die können nicht chatten; entfernen Sie sie, falls sie auftauchen.

Modell-IDs und Fähigkeiten

Modell ID Tools Bilder Kontext
GLM 5.3 broadnet/glm-5.3 An Aus 1.048.576
Qwen3.8 27B broadnet/qwen3.8-27b An An 262.144
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash Aus (von BroadNet nicht gelistet) An 1.048.576
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b Aus An 32.768

broadnet/gemma-4-26b-a4b ist das einzige Chatmodell, das mit dem Startguthaben von $5 läuft, und es ist das Modell hinter BroadNets Stunden-Schlüssel ($0.50 für eine Stunde, ein Stream). Die anderen brauchen eine Aufladung oder, für DeepSeek V4.1 Flash, einen unbegrenzten Plan.

Einstellungen, die sich lohnen

  • Output-Limit. Drei der Modelle denken vor der Antwort nach, und das Reasoning zählt zu max_tokens. Wenn Sie für ein BroadNet-Modell ein Output-Limit setzen, lassen Sie es bei 1.000 Token oder mehr.
  • Sampler. Bei Custom Providern bietet Jan den vollen Satz an Sampling-Parametern an, und seine Dokumentation warnt, dass eigene Endpoints nicht unterstützte Sampler stillschweigend ignorieren können. Scheint eine Einstellung wie min-P nichts zu bewirken, liegt es daran.
  • Fallback-Schlüssel. Jan kann mehrere Schlüssel pro Provider halten und versucht es bei 401, 403 oder 429 mit dem nächsten. BroadNets Acceptable Use Policy verbietet das Umgehen von Raten- oder Parallelitätslimits; nutzen Sie zusätzliche Schlüssel also für Failover, nicht um Ihre Limits zu vervielfachen.

Fehlerbehebung

  • 404 bei jeder Anfrage. In der Base URL fehlt /v1. Die Jan-Dokumentation nennt das den häufigsten Fehler.
  • 401 oder 403. Der Schlüssel ist falsch, abgelaufen oder sein Kontingent ist aufgebraucht. Ein bestandenes Test keys beweist nicht, dass der Schlüssel funktioniert, denn BroadNets /v1/models antwortete bei unserer Prüfung auch ohne Schlüssel.
  • Modell nicht gefunden. Prüfen Sie die ID, einschließlich des Präfixes broadnet/. Kostenpflichtige Modelle brauchen eine Aufladung.
  • Leere Antworten. Das Reasoning hat das Output-Budget verbraucht. Erhöhen Sie das Output-Limit. Warum Antworten leer zurückkommen.
  • 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende; ein Stunden-Schlüssel bedient einen Stream. Siehe Fehlercodes und Retries.

Häufige Fragen

Warum zeigt Jan nach dem Hinzufügen von BroadNet nur Transkriptionsmodelle?

Jan ruft beim Speichern https://inference.broadnet.ai/v1/models ab. Bei unserer Prüfung am 15. November 2026 listete BroadNets öffentliches /v1/models nur die beiden Transkriptionsmodelle, die im Chat nicht funktionieren. Entfernen Sie sie und tragen Sie die IDs der Chatmodelle von Hand ein.

Der Button Test keys in Jan meldet OK. Ist mein Schlüssel gültig?

Nicht unbedingt. Jan testet Schlüssel mit einem Aufruf von /models, und BroadNets /v1/models antwortete bei unserer Prüfung auch ohne Schlüssel. Senden Sie eine Chatnachricht, um den Schlüssel zu bestätigen.

Kann ich den Stunden-Schlüssel von BroadNet in Jan nutzen?

Ja. Der Stunden-Schlüssel läuft mit BroadNet Gemma 4 VL 26B, ID broadnet/gemma-4-26b-a4b, und jeweils einem Stream – das passt zu einem einzelnen Chatfenster.

Erkennt Jan, ob ein BroadNet-Modell Bilder oder Tools unterstützt?

Nein. Laut Jan-Dokumentation werden die Fähigkeiten bei Custom Providern nicht erkannt. Aktivieren Sie die Bildeingabe für DeepSeek V4.1 Flash, Qwen3.8 27B und Gemma 4 VL 26B und Tools für GLM 5.3 und Qwen3.8 27B.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen