Continue è un assistente AI open source per VS Code e JetBrains. Raggiunge i server compatibili con OpenAI tramite il provider openai con un apiBase personalizzato, come mostra la documentazione di Continue sul provider OpenAI. BroadNet Inference rientra in questo schema: stessa forma delle richieste, base URL e ID dei modelli diversi.
Configurazione
- Procurati una chiave BroadNet dalla console. Vedi chiavi API.
- Apri la configurazione locale. Si trova in
~/.continue/config.yamlsu macOS e Linux e in%USERPROFILE%\.continue\config.yamlsu Windows. Nell’IDE apri il menu a tendina delle configurazioni sopra il campo della chat e clicca l’icona a ingranaggio accanto a Local Config. - Aggiungi i modelli.
name: My Config
version: 0.0.1
schema: v1
models:
- name: BroadNet GLM 5.3
provider: openai
model: broadnet/glm-5.3
apiBase: https://inference.broadnet.ai/v1
apiKey: your-broadnet-key
roles:
- chat
- edit
- apply
capabilities:
- tool_use
defaultCompletionOptions:
contextLength: 1048576
maxTokens: 8000
- name: BroadNet Qwen3.8 27B
provider: openai
model: broadnet/qwen3.8-27b
apiBase: https://inference.broadnet.ai/v1
apiKey: your-broadnet-key
capabilities:
- tool_use
- image_input
defaultCompletionOptions:
contextLength: 262144
maxTokens: 8000
- Salva e scegli il modello nel selettore dei modelli del pannello di Continue.
Tieni il file fuori dal controllo di versione, perché contiene la chiave.
A cosa servono i campi
provider: openaifa inviare a Continue richieste standard di chat completions.apiBasesostituisce l’indirizzo predefinito di OpenAI. Non aggiungere/chat/completions: il percorso lo aggiunge Continue.capabilitiesscavalca il rilevamento automatico di Continue. Secondo il suo riferimento,tool_useè necessario per la modalità Agent eimage_inputabilita il caricamento di immagini. Continue non può rilevarle per gli ID personalizzati, quindi impostale tu.contextLengthemaxTokensstanno sottodefaultCompletionOptions. Su BroadNet il ragionamento conta inmaxTokens, quindi lascia margine.rolesvale per default chat, edit, apply e summarize. Abbiamo lasciato fuoriautocomplete: questi modelli ragionano prima di rispondere, cosa più adatta a chat e modifiche che al completamento a ogni tasto.
Quale modello scegliere
| Uso | Modello | Perché |
|---|---|---|
| Chat e modalità Agent | broadnet/glm-5.3 |
Strumenti e output strutturato, contesto da 1M |
| Screenshot, arabo | broadnet/qwen3.8-27b |
Strumenti e input di immagini, contesto da 262K |
| Chat lunghe con un piano flat | broadnet/deepseek-v4.1-flash |
Piani illimitati, contesto da 1M; strumenti non indicati |
Per DeepSeek V4.1 Flash togli tool_use, a meno che un tuo test non mostri che le chiamate agli strumenti funzionano, e imposta contextLength: 1048576. I prezzi di tutti i modelli sono nella pagina dei prezzi. La pagina del modello GLM 5.3 ne riporta i limiti.
Risoluzione dei problemi
- 401. Controlla
apiKey. Una chiave a consumo sbagliata, scaduta o senza più quota restituisce 401. - Errori sul modello alla prima richiesta.
modeldeve essere l’ID esatto di BroadNet, con il prefissobroadnet/. GLM 5.3, Qwen3.8 27B e DeepSeek V4.1 Flash richiedono una ricarica; il credito iniziale di $5 copre BroadNet Gemma 4 VL 26B e i due modelli Transcribe. - Risposte vuote o troncate. Alza
maxTokens. Perché le risposte arrivano vuote. - 429. Una chiave a consumo consente 30 richieste al minuto e 4 contemporaneamente. La modalità Agent fa molte chiamate di fila: aggiungi un backoff nel tuo flusso di lavoro o distanzia le esecuzioni. Vedi errori e retry.
- Più agenti insieme su una chiave di piano. Ogni sessione con piano illimitato esegue una richiesta alla volta. Dai a ogni agente parallelo la sua sessione.
- Endpoint sbagliato. La documentazione di Continue cita
useLegacyCompletionsEndpointeuseResponsesApi. Non impostare l’opzione legacy: BroadNet serve/v1/chat/completions. Continue usa/responsesper default solo con i modelli o-series e GPT-5 di OpenAI, quindi gli ID BroadNet usano chat completions senza impostazioni aggiuntive.
