BroadRouter
Magsimula

Continue sa BroadNet Inference: config.yaml at apiBase

Na-update

Sa ~/.continue/config.yaml, magdagdag ng model na may provider openai, model na isang BroadNet ID gaya ng broadnet/glm-5.3, apiBase na https://inference.broadnet.ai/v1 at apiKey na BroadNet key mo. Idagdag ang capabilities na tool_use para sa Agent mode, at i-set ang contextLength at maxTokens sa ilalim ng defaultCompletionOptions.

Ang Continue ay open-source na AI assistant para sa VS Code at JetBrains. Kumokonekta ito sa mga OpenAI-compatible na server sa pamamagitan ng openai provider nito na may apiBase override, gaya ng ipinapakita sa docs ng Continue tungkol sa OpenAI provider. Swak dito ang BroadNet Inference: parehong hugis ng request, ibang base URL at mga model ID.

Setup

  1. Kumuha ng BroadNet key mula sa console. Tingnan ang API keys.
  2. Buksan ang local na config. Nasa ~/.continue/config.yaml ito sa macOS at Linux, at nasa %USERPROFILE%\.continue\config.yaml sa Windows. Sa IDE, buksan ang configs dropdown sa itaas ng chat input at i-click ang gear icon sa tabi ng Local Config.
  3. Idagdag ang mga model.
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. I-save at piliin ang model sa model selector sa Continue panel.

Huwag isama ang file sa version control, dahil nandoon ang key.

Ano ang ginagawa ng mga field

  • Dahil sa provider: openai, karaniwang chat-completions na request ang ipinapadala ng Continue.
  • Pinapalitan ng apiBase ang default na address ng OpenAI. Huwag nang dagdagan ng /chat/completions; ang Continue ang nagdadagdag ng path.
  • Ino-override ng capabilities ang autodetection ng Continue. Ayon sa reference nito, kailangan ang tool_use para sa Agent mode, at pinapagana ng image_input ang pag-upload ng larawan. Hindi ito ma-detect ng Continue para sa mga custom na ID, kaya i-set mo ang mga ito.
  • Nasa ilalim ng defaultCompletionOptions ang contextLength at maxTokens. Sa BroadNet, kasama ang reasoning sa maxTokens, kaya mag-iwan ng espasyo.
  • Ang default ng roles ay chat, edit, apply at summarize. Hindi namin isinama ang autocomplete: nagre-reason muna ang mga model na ito bago sumagot, kaya mas bagay sila sa chat at mga edit kaysa sa completion kada keystroke.

Aling model ang pipiliin

Gamit Model Bakit
Chat at Agent mode broadnet/glm-5.3 Tools at structured output, 1M context
Mga screenshot, Arabic broadnet/qwen3.8-27b Tools at image input, 262K context
Mahahabang chat sa flat na plan broadnet/deepseek-v4.1-flash Mga unlimited na plan, 1M context; walang nakalistang tools

Para sa DeepSeek V4.1 Flash, tanggalin ang tool_use maliban kung ipinakita ng sarili mong test na gumagana ang tool calls, at i-set ang contextLength: 1048576. Nasa pricing page ang presyo ng bawat model. Nasa page ng model na GLM 5.3 ang mga limit nito.

Troubleshooting

  • 401. Suriin ang apiKey. 401 ang ibinabalik ng pay-as-you-go key na mali, expired o ubos na ang allowance.
  • Error sa model sa unang request. Kailangang eksaktong BroadNet ID ang model, kasama ang broadnet/ prefix. Kailangan ng top-up para sa GLM 5.3, Qwen3.8 27B at DeepSeek V4.1 Flash; ang BroadNet Gemma 4 VL 26B at ang dalawang Transcribe model ang sakop ng $5 na panimulang credit.
  • Walang laman o putol na sagot. Taasan ang maxTokens. Bakit walang laman ang mga sagot.
  • 429. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay-sabay. Sunod-sunod na call ang ginagawa ng Agent mode; magdagdag ng backoff sa workflow mo o pagitan-pagitanin ang mga run. Tingnan ang errors and retries.
  • Maraming agent nang sabay sa isang plan key. Isang request lang sa isang pagkakataon ang pinapatakbo ng bawat session ng unlimited na plan. Bigyan ng sariling session ang bawat parallel na agent.
  • Maling endpoint. Binabanggit ng docs ng Continue ang useLegacyCompletionsEndpoint at useResponsesApi. Huwag i-set ang legacy na option; /v1/chat/completions ang sine-serve ng BroadNet. Ginagamit lang ng Continue ang /responses bilang default para sa o-series at GPT-5 na mga model ng OpenAI, kaya chat completions ang gamit ng mga BroadNet ID nang walang dagdag na setting.

Mga tanong

Nasaan ang config.yaml ng Continue?

Nasa ~/.continue/config.yaml ang local na file sa macOS at Linux, at nasa %USERPROFILE%\.continue\config.yaml sa Windows. Puwede mo rin itong buksan mula sa gear icon sa tabi ng Local Config sa configs dropdown.

Bakit hindi ko magamit ang Agent mode sa BroadNet model ko?

Kailangan ng Continue ang tool_use capability para sa Agent mode. Idagdag ang capabilities na may tool_use sa entry ng model, at pumili ng model na nakalista sa BroadNet na may tools, gaya ng broadnet/glm-5.3.

Bakit walang lamang sagot ang ibinabalik ng Continue?

Naubos ng reasoning ang maxTokens bago pa nagsimula ang sagot. Taasan ang maxTokens sa ilalim ng defaultCompletionOptions sa ilang libo.

config.json o config.yaml ba ang dapat kong gamitin sa Continue?

Gamitin ang config.yaml. Minarkahan ng docs ng Continue na deprecated ang config.json at ang reference nito, at YAML na may schema v1 ang lahat ng kasalukuyang halimbawa.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity