BroadRouter

BroadNet Inference als Custom Provider in goose einbinden

Aktualisiert

Legen Sie in goose einen Custom Provider vom Typ OpenAI Compatible an, mit API URL https://inference.broadnet.ai/v1/chat/completions, Ihrem BroadNet-Schlüssel und Modellen wie broadnet/glm-5.3. Nutzen Sie den Button Add Custom Provider in goose Desktop, goose configure im Terminal oder eine JSON-Datei in ~/.config/goose/custom_providers/. goose setzt auf Tool Calling, starten Sie also mit GLM 5.3 oder Qwen3.8 27B.

goose ist ein quelloffener KI-Agent mit Desktop-App und CLI. Dienste, die nicht eingebaut sind, fügen Sie als Custom Provider hinzu, und goose unterstützt OpenAI-kompatible. BroadNet Inference stellt Standard-Chat-Completions bereit und funktioniert daher auf diesem Weg. BroadRouter ist die Website von BroadNet selbst; die Schritte folgen der Provider-Dokumentation von goose zum Stand von goose 1.59.

Die goose-Dokumentation warnt, dass goose „extensively uses tool calling“ (Übersetzung: Tool Calling intensiv nutzt) und dass Modelle ohne diese Fähigkeit nur chatten können, wenn alle Extensions deaktiviert sind. BroadNet gibt Tool Calling für GLM 5.3 und Qwen3.8 27B an; nehmen Sie für Agentenarbeit also eines dieser beiden.

Option 1: goose Desktop

  1. Öffnen Sie die Seitenleiste, klicken Sie auf Settings und dann auf den Tab Models.

  2. Klicken Sie auf Configure providers und unten auf Add Custom Provider.

  3. Füllen Sie die Angaben aus:

    Feld Wert
    Provider Type OpenAI Compatible
    Display Name BroadNet Inference
    API URL https://inference.broadnet.ai/v1/chat/completions
    API Key Ihr BroadNet-Schlüssel
    Available Models broadnet/glm-5.3, broadnet/qwen3.8-27b
    Streaming Support an
  4. Klicken Sie auf Create Provider und wählen Sie dann den Provider und ein Modell aus.

Option 2: goose CLI

Führen Sie goose configure aus, wählen Sie Custom Providers und dann Add A Custom Provider, und beantworten Sie die Abfragen mit denselben Werten: API-Typ OpenAI Compatible, die API URL von oben, Authentifizierung Yes mit statischem API-Schlüssel, die kommagetrennte Modellliste und Streaming an.

Option 3: eine JSON-Datei

Legen Sie ~/.config/goose/custom_providers/broadnet.json an (unter Windows %APPDATA%\Block\goose\config\custom_providers\):

{
  "name": "broadnet",
  "engine": "openai",
  "display_name": "BroadNet Inference",
  "description": "BroadNet Inference, OpenAI-compatible",
  "api_key_env": "BROADNET_API_KEY",
  "base_url": "https://inference.broadnet.ai/v1/chat/completions",
  "models": [
    { "name": "broadnet/glm-5.3", "context_limit": 1048576 },
    { "name": "broadnet/qwen3.8-27b", "context_limit": 262144 },
    { "name": "broadnet/deepseek-v4.1-flash", "context_limit": 1048576 }
  ],
  "supports_streaming": true,
  "requires_auth": true
}

Starten Sie dann eine Session damit:

export BROADNET_API_KEY='your-broadnet-key'
goose session start --provider broadnet

Die Datei kann für Ihr Team in ein Repository, denn der Schlüssel bleibt in der Umgebung.

Testen

Beginnen Sie mit einer einfachen Frage wie „what can you do?“. Kommt eine Antwort, steht die Verbindung. Bitten Sie dann um etwas, das eine Ihrer aktivierten Extensions braucht. Ruft goose das Tool auf, funktioniert auch Tool Calling. Antwortet es nur mit Text und ruft nie ein Tool auf, wechseln Sie zu broadnet/glm-5.3.

Preise in goose

goose kann die Kosten schätzen, wenn jedes Modell in der JSON-Datei input_token_cost und output_token_cost in USD pro Token hat. Nehmen Sie die Werte von der Preisseite von BroadNet und teilen Sie den Preis pro Million durch 1.000.000. Fehlt eines der beiden Felder, greift goose auf die Preise aus seinem eigenen Katalog zurück, die von den Preisen von BroadNet abweichen können.

Fehlerbehebung

  • 401. Der Schlüssel ist falsch, abgelaufen oder sein Kontingent ist aufgebraucht, oder BROADNET_API_KEY ist in der Shell, die goose startet, nicht gesetzt.
  • 404. Prüfen Sie die API URL. Sie sollte https://inference.broadnet.ai/v1/chat/completions lauten. Prüfen Sie, ob die Modell-ID exakt der von BroadNet entspricht. Kostenpflichtige Modelle brauchen eine Aufladung; das Guthaben von $5 deckt nur broadnet/gemma-4-26b-a4b und die beiden Transcribe-Modelle ab, und der Kontext von Gemma von 32.768 Token ist für Agentenarbeit knapp.
  • Leere Antworten. Bei DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B zählt das Reasoning zum Output-Limit. Warum Antworten leer zurückkommen.
  • 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende. Siehe Fehlercodes und Retries.
  • Anfragen warten oder scheitern bei zwei goose-Sessions mit einem Plan-Schlüssel. Eine Plan-Session verarbeitet immer nur eine Anfrage; geben Sie daher jeder goose-Session ihre eigene.

Häufige Fragen

Endet die API URL in goose auf /v1 oder auf /v1/chat/completions?

Das Custom-Provider-Beispiel von goose nutzt die vollständige Chat-Completions-URL, verwenden Sie also https://inference.broadnet.ai/v1/chat/completions. So bleibt goose auch bei Chat Completions, dem Format, das BroadNet bereitstellt.

Welches BroadNet-Modell funktioniert am besten mit goose?

GLM 5.3 (broadnet/glm-5.3). Laut goose-Dokumentation nutzt goose Tool Calling intensiv, und BroadNet gibt Tools nur für GLM 5.3 und Qwen3.8 27B an.

Kann ich goose mit dem unbegrenzten Plan von BroadNet nutzen?

Die Pläne decken nur DeepSeek V4.1 Flash ab, und die BroadNet-Dokumentation nennt dafür kein Tool Calling. Laut goose können Modelle ohne Tool Calling nur chatten, wenn alle Extensions deaktiviert sind; testen Sie es also, bevor Sie einen Monat kaufen.

Wo speichert goose den API-Schlüssel?

Im Schlüsselbund des Systems oder, wenn der Keyring aus ist, in secrets.yaml. Bei einer JSON-Datei liest goose stattdessen die Variable, die in api_key_env steht.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen