Continue ist ein Open-Source-KI-Assistent für VS Code und JetBrains. OpenAI-kompatible Server erreicht er über seinen Provider openai mit einer überschriebenen apiBase, wie in Continues Dokumentation zum OpenAI-Provider gezeigt. BroadNet Inference passt in dieses Muster: gleiches Anfrageformat, andere Basis-URL und andere Modell-IDs.
Einrichtung
- Holen Sie sich einen BroadNet-Schlüssel in der Konsole. Siehe API-Schlüssel.
- Öffnen Sie die lokale Konfiguration. Sie liegt unter
~/.continue/config.yamlauf macOS und Linux und unter%USERPROFILE%\.continue\config.yamlauf Windows. Öffnen Sie in der IDE das Konfigurations-Dropdown über dem Chat-Eingabefeld und klicken Sie auf das Zahnradsymbol neben Local Config. - Fügen Sie die Modelle hinzu.
name: My Config
version: 0.0.1
schema: v1
models:
- name: BroadNet GLM 5.3
provider: openai
model: broadnet/glm-5.3
apiBase: https://inference.broadnet.ai/v1
apiKey: your-broadnet-key
roles:
- chat
- edit
- apply
capabilities:
- tool_use
defaultCompletionOptions:
contextLength: 1048576
maxTokens: 8000
- name: BroadNet Qwen3.8 27B
provider: openai
model: broadnet/qwen3.8-27b
apiBase: https://inference.broadnet.ai/v1
apiKey: your-broadnet-key
capabilities:
- tool_use
- image_input
defaultCompletionOptions:
contextLength: 262144
maxTokens: 8000
- Speichern Sie und wählen Sie das Modell in der Modellauswahl im Continue-Panel.
Halten Sie die Datei aus der Versionsverwaltung heraus, denn sie enthält den Schlüssel.
Was die Felder bewirken
provider: openaisorgt dafür, dass Continue Standardanfragen im Chat-Completions-Format sendet.apiBaseersetzt die Standardadresse von OpenAI. Hängen Sie nicht/chat/completionsan; den Pfad ergänzt Continue selbst.capabilitiesüberschreibt Continues automatische Erkennung. Laut Referenz isttool_usefür den Agent-Modus erforderlich, undimage_inputermöglicht Bild-Uploads. Bei eigenen IDs kann Continue das nicht erkennen, also setzen Sie die Werte selbst.contextLengthundmaxTokensstehen unterdefaultCompletionOptions. Bei BroadNet zählt Reasoning zumaxTokens, lassen Sie also Spielraum.rolessteht standardmäßig auf chat, edit, apply und summarize.autocompletehaben wir weggelassen: Diese Modelle denken vor der Antwort nach, was besser zu Chat und Edits passt als zur Vervollständigung bei jedem Tastenanschlag.
Welches Modell passt?
| Einsatz | Modell | Warum |
|---|---|---|
| Chat und Agent-Modus | broadnet/glm-5.3 |
Tools und strukturierte Ausgabe, 1M Kontext |
| Screenshots, Arabisch | broadnet/qwen3.8-27b |
Tools und Bildeingabe, 262K Kontext |
| Lange Chats mit Flatrate-Plan | broadnet/deepseek-v4.1-flash |
Unbegrenzte Pläne, 1M Kontext; Tools nicht gelistet |
Bei DeepSeek V4.1 Flash lassen Sie tool_use weg, solange Ihr eigener Test nicht zeigt, dass Tool Calls funktionieren, und setzen contextLength: 1048576. Die Preise aller Modelle stehen auf der Preisseite. Die Limits von GLM 5.3 finden Sie auf der Modellseite von GLM 5.3.
Fehlerbehebung
- 401. Prüfen Sie
apiKey. Ein falscher, abgelaufener oder aufgebrauchter Pay-as-you-go-Schlüssel liefert 401. - Modellfehler bei der ersten Anfrage.
modelmuss exakt die BroadNet-ID sein, mit dem Präfixbroadnet/. GLM 5.3, Qwen3.8 27B und DeepSeek V4.1 Flash brauchen eine Aufladung; das Startguthaben von $5 deckt BroadNet Gemma 4 VL 26B und die beiden Transcribe-Modelle ab. - Leere oder abgeschnittene Antworten. Erhöhen Sie
maxTokens. Warum Antworten leer zurückkommen. - 429. Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig. Der Agent-Modus macht viele Aufrufe hintereinander; bauen Sie Backoff in Ihren Workflow ein oder verteilen Sie die Läufe zeitlich. Siehe Fehlercodes und Retries.
- Mehrere Agenten gleichzeitig mit einem Plan-Schlüssel. Jede Session eines unbegrenzten Plans verarbeitet immer nur eine Anfrage. Geben Sie jedem parallelen Agenten eine eigene Session.
- Falscher Endpoint. Die Continue-Dokumentation erwähnt
useLegacyCompletionsEndpointunduseResponsesApi. Setzen Sie die Legacy-Option nicht; BroadNet stellt/v1/chat/completionsbereit. Continue nutzt/responsesstandardmäßig nur für OpenAIs o-Serie und GPT-5-Modelle, BroadNet-IDs laufen also ohne weitere Einstellungen über Chat Completions.
