BroadRouter
Inizia

Usare Continue con BroadNet Inference (config.yaml e apiBase)

Aggiornato

In ~/.continue/config.yaml aggiungi un modello con provider openai, model impostato su un ID BroadNet come broadnet/glm-5.3, apiBase su https://inference.broadnet.ai/v1 e apiKey con la tua chiave BroadNet. Aggiungi la capability tool_use per la modalità Agent e imposta contextLength e maxTokens sotto defaultCompletionOptions.

Continue è un assistente AI open source per VS Code e JetBrains. Raggiunge i server compatibili con OpenAI tramite il provider openai con un apiBase personalizzato, come mostra la documentazione di Continue sul provider OpenAI. BroadNet Inference rientra in questo schema: stessa forma delle richieste, base URL e ID dei modelli diversi.

Configurazione

  1. Procurati una chiave BroadNet dalla console. Vedi chiavi API.
  2. Apri la configurazione locale. Si trova in ~/.continue/config.yaml su macOS e Linux e in %USERPROFILE%\.continue\config.yaml su Windows. Nell’IDE apri il menu a tendina delle configurazioni sopra il campo della chat e clicca l’icona a ingranaggio accanto a Local Config.
  3. Aggiungi i modelli.
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. Salva e scegli il modello nel selettore dei modelli del pannello di Continue.

Tieni il file fuori dal controllo di versione, perché contiene la chiave.

A cosa servono i campi

  • provider: openai fa inviare a Continue richieste standard di chat completions.
  • apiBase sostituisce l’indirizzo predefinito di OpenAI. Non aggiungere /chat/completions: il percorso lo aggiunge Continue.
  • capabilities scavalca il rilevamento automatico di Continue. Secondo il suo riferimento, tool_use è necessario per la modalità Agent e image_input abilita il caricamento di immagini. Continue non può rilevarle per gli ID personalizzati, quindi impostale tu.
  • contextLength e maxTokens stanno sotto defaultCompletionOptions. Su BroadNet il ragionamento conta in maxTokens, quindi lascia margine.
  • roles vale per default chat, edit, apply e summarize. Abbiamo lasciato fuori autocomplete: questi modelli ragionano prima di rispondere, cosa più adatta a chat e modifiche che al completamento a ogni tasto.

Quale modello scegliere

Uso Modello Perché
Chat e modalità Agent broadnet/glm-5.3 Strumenti e output strutturato, contesto da 1M
Screenshot, arabo broadnet/qwen3.8-27b Strumenti e input di immagini, contesto da 262K
Chat lunghe con un piano flat broadnet/deepseek-v4.1-flash Piani illimitati, contesto da 1M; strumenti non indicati

Per DeepSeek V4.1 Flash togli tool_use, a meno che un tuo test non mostri che le chiamate agli strumenti funzionano, e imposta contextLength: 1048576. I prezzi di tutti i modelli sono nella pagina dei prezzi. La pagina del modello GLM 5.3 ne riporta i limiti.

Risoluzione dei problemi

  • 401. Controlla apiKey. Una chiave a consumo sbagliata, scaduta o senza più quota restituisce 401.
  • Errori sul modello alla prima richiesta. model deve essere l’ID esatto di BroadNet, con il prefisso broadnet/. GLM 5.3, Qwen3.8 27B e DeepSeek V4.1 Flash richiedono una ricarica; il credito iniziale di $5 copre BroadNet Gemma 4 VL 26B e i due modelli Transcribe.
  • Risposte vuote o troncate. Alza maxTokens. Perché le risposte arrivano vuote.
  • 429. Una chiave a consumo consente 30 richieste al minuto e 4 contemporaneamente. La modalità Agent fa molte chiamate di fila: aggiungi un backoff nel tuo flusso di lavoro o distanzia le esecuzioni. Vedi errori e retry.
  • Più agenti insieme su una chiave di piano. Ogni sessione con piano illimitato esegue una richiesta alla volta. Dai a ogni agente parallelo la sua sessione.
  • Endpoint sbagliato. La documentazione di Continue cita useLegacyCompletionsEndpoint e useResponsesApi. Non impostare l’opzione legacy: BroadNet serve /v1/chat/completions. Continue usa /responses per default solo con i modelli o-series e GPT-5 di OpenAI, quindi gli ID BroadNet usano chat completions senza impostazioni aggiuntive.

Domande frequenti

Dove si trova il config.yaml di Continue?

Il file locale è ~/.continue/config.yaml su macOS e Linux e %USERPROFILE%\.continue\config.yaml su Windows. Puoi aprirlo anche dall’icona a ingranaggio accanto a Local Config nel menu a tendina delle configurazioni.

Perché non riesco a usare la modalità Agent con il mio modello BroadNet?

Per la modalità Agent Continue richiede la capability tool_use. Aggiungi capabilities con tool_use alla voce del modello e scegli un modello che BroadNet indica con strumenti, come broadnet/glm-5.3.

Perché Continue restituisce una risposta vuota?

Il ragionamento ha esaurito maxTokens prima che iniziasse la risposta. Alza maxTokens sotto defaultCompletionOptions a qualche migliaio.

Per Continue meglio config.json o config.yaml?

Usa config.yaml. La documentazione di Continue indica config.json e il relativo riferimento come deprecati, e tutti gli esempi attuali usano YAML con schema v1.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity