BroadRouter
Loslegen

Continue mit BroadNet Inference nutzen (config.yaml und apiBase)

Aktualisiert

Fügen Sie in ~/.continue/config.yaml ein Modell mit provider openai hinzu, model auf eine BroadNet-ID wie broadnet/glm-5.3, apiBase auf https://inference.broadnet.ai/v1 und apiKey auf Ihren BroadNet-Schlüssel. Ergänzen Sie capabilities mit tool_use für den Agent-Modus und setzen Sie contextLength und maxTokens unter defaultCompletionOptions.

Continue ist ein Open-Source-KI-Assistent für VS Code und JetBrains. OpenAI-kompatible Server erreicht er über seinen Provider openai mit einer überschriebenen apiBase, wie in Continues Dokumentation zum OpenAI-Provider gezeigt. BroadNet Inference passt in dieses Muster: gleiches Anfrageformat, andere Basis-URL und andere Modell-IDs.

Einrichtung

  1. Holen Sie sich einen BroadNet-Schlüssel in der Konsole. Siehe API-Schlüssel.
  2. Öffnen Sie die lokale Konfiguration. Sie liegt unter ~/.continue/config.yaml auf macOS und Linux und unter %USERPROFILE%\.continue\config.yaml auf Windows. Öffnen Sie in der IDE das Konfigurations-Dropdown über dem Chat-Eingabefeld und klicken Sie auf das Zahnradsymbol neben Local Config.
  3. Fügen Sie die Modelle hinzu.
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. Speichern Sie und wählen Sie das Modell in der Modellauswahl im Continue-Panel.

Halten Sie die Datei aus der Versionsverwaltung heraus, denn sie enthält den Schlüssel.

Was die Felder bewirken

  • provider: openai sorgt dafür, dass Continue Standardanfragen im Chat-Completions-Format sendet.
  • apiBase ersetzt die Standardadresse von OpenAI. Hängen Sie nicht /chat/completions an; den Pfad ergänzt Continue selbst.
  • capabilities überschreibt Continues automatische Erkennung. Laut Referenz ist tool_use für den Agent-Modus erforderlich, und image_input ermöglicht Bild-Uploads. Bei eigenen IDs kann Continue das nicht erkennen, also setzen Sie die Werte selbst.
  • contextLength und maxTokens stehen unter defaultCompletionOptions. Bei BroadNet zählt Reasoning zu maxTokens, lassen Sie also Spielraum.
  • roles steht standardmäßig auf chat, edit, apply und summarize. autocomplete haben wir weggelassen: Diese Modelle denken vor der Antwort nach, was besser zu Chat und Edits passt als zur Vervollständigung bei jedem Tastenanschlag.

Welches Modell passt?

Einsatz Modell Warum
Chat und Agent-Modus broadnet/glm-5.3 Tools und strukturierte Ausgabe, 1M Kontext
Screenshots, Arabisch broadnet/qwen3.8-27b Tools und Bildeingabe, 262K Kontext
Lange Chats mit Flatrate-Plan broadnet/deepseek-v4.1-flash Unbegrenzte Pläne, 1M Kontext; Tools nicht gelistet

Bei DeepSeek V4.1 Flash lassen Sie tool_use weg, solange Ihr eigener Test nicht zeigt, dass Tool Calls funktionieren, und setzen contextLength: 1048576. Die Preise aller Modelle stehen auf der Preisseite. Die Limits von GLM 5.3 finden Sie auf der Modellseite von GLM 5.3.

Fehlerbehebung

  • 401. Prüfen Sie apiKey. Ein falscher, abgelaufener oder aufgebrauchter Pay-as-you-go-Schlüssel liefert 401.
  • Modellfehler bei der ersten Anfrage. model muss exakt die BroadNet-ID sein, mit dem Präfix broadnet/. GLM 5.3, Qwen3.8 27B und DeepSeek V4.1 Flash brauchen eine Aufladung; das Startguthaben von $5 deckt BroadNet Gemma 4 VL 26B und die beiden Transcribe-Modelle ab.
  • Leere oder abgeschnittene Antworten. Erhöhen Sie maxTokens. Warum Antworten leer zurückkommen.
  • 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig. Der Agent-Modus macht viele Aufrufe hintereinander; bauen Sie Backoff in Ihren Workflow ein oder verteilen Sie die Läufe zeitlich. Siehe Fehlercodes und Retries.
  • Mehrere Agenten gleichzeitig mit einem Plan-Schlüssel. Jede Session eines unbegrenzten Plans verarbeitet immer nur eine Anfrage. Geben Sie jedem parallelen Agenten eine eigene Session.
  • Falscher Endpoint. Die Continue-Dokumentation erwähnt useLegacyCompletionsEndpoint und useResponsesApi. Setzen Sie die Legacy-Option nicht; BroadNet stellt /v1/chat/completions bereit. Continue nutzt /responses standardmäßig nur für OpenAIs o-Serie und GPT-5-Modelle, BroadNet-IDs laufen also ohne weitere Einstellungen über Chat Completions.

Häufige Fragen

Wo liegt die config.yaml von Continue?

Die lokale Datei liegt unter ~/.continue/config.yaml auf macOS und Linux und unter %USERPROFILE%\.continue\config.yaml auf Windows. Sie können sie auch über das Zahnradsymbol neben Local Config im Konfigurations-Dropdown öffnen.

Warum kann ich den Agent-Modus mit meinem BroadNet-Modell nicht nutzen?

Continue braucht für den Agent-Modus die Capability tool_use. Ergänzen Sie capabilities mit tool_use im Modelleintrag und wählen Sie ein Modell, für das BroadNet Tools angibt, etwa broadnet/glm-5.3.

Warum liefert Continue eine leere Antwort?

Das Reasoning hat maxTokens aufgebraucht, bevor die Antwort begann. Erhöhen Sie maxTokens unter defaultCompletionOptions auf einige Tausend.

Soll ich für Continue config.json oder config.yaml verwenden?

Verwenden Sie config.yaml. Die Continue-Dokumentation kennzeichnet config.json und deren Referenz als veraltet, und alle aktuellen Beispiele nutzen YAML mit schema v1.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen