BroadRouter
Mulakan

Guna Continue dengan BroadNet Inference (config.yaml dan apiBase)

Dikemas kini

Dalam ~/.continue/config.yaml, tambah model dengan provider openai, model ditetapkan kepada ID BroadNet seperti broadnet/glm-5.3, apiBase kepada https://inference.broadnet.ai/v1 dan apiKey kepada kunci BroadNet anda. Tambah capabilities tool_use untuk Agent mode, dan tetapkan contextLength serta maxTokens di bawah defaultCompletionOptions.

Continue ialah pembantu AI sumber terbuka untuk VS Code dan JetBrains. Ia berhubung dengan pelayan serasi OpenAI melalui penyedia openai dengan penggantian apiBase, seperti yang ditunjukkan dalam dokumentasi penyedia OpenAI Continue. BroadNet Inference sesuai dengan corak itu: bentuk permintaan yang sama, base URL dan ID model yang berbeza.

Persediaan

  1. Dapatkan kunci BroadNet daripada konsol. Lihat kunci API.
  2. Buka konfigurasi setempat. Ia terletak di ~/.continue/config.yaml pada macOS dan Linux, dan %USERPROFILE%\.continue\config.yaml pada Windows. Dalam IDE, buka senarai juntai bawah konfigurasi di atas input chat dan klik ikon gear di sebelah Local Config.
  3. Tambah model.
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. Simpan dan pilih model dalam pemilih model di panel Continue.

Jangan masukkan fail ini ke dalam kawalan versi, kerana ia menyimpan kunci.

Fungsi setiap medan

  • provider: openai membuatkan Continue menghantar permintaan chat-completions yang standard.
  • apiBase menggantikan alamat lalai OpenAI. Jangan tambah /chat/completions; Continue menambah laluan itu sendiri.
  • capabilities mengatasi pengesanan automatik Continue. Rujukannya menyatakan tool_use diperlukan untuk Agent mode dan image_input membolehkan muat naik imej. Continue tidak dapat mengesan keupayaan ini untuk ID tersuai, jadi tetapkannya.
  • contextLength dan maxTokens terletak di bawah defaultCompletionOptions. Pada BroadNet, penaakulan dikira dalam maxTokens, jadi tinggalkan ruang.
  • roles lalai kepada chat, edit, apply dan summarize. Kami tidak memasukkan autocomplete: model ini membuat penaakulan sebelum menjawab, jadi ia lebih sesuai untuk chat dan suntingan berbanding pelengkapan pada setiap ketukan kekunci.

Model mana yang patut dipilih

Kegunaan Model Sebab
Chat dan Agent mode broadnet/glm-5.3 Tools dan output berstruktur, konteks 1M
Tangkapan skrin, bahasa Arab broadnet/qwen3.8-27b Tools dan input imej, konteks 262K
Chat panjang pada pelan tetap broadnet/deepseek-v4.1-flash Pelan tanpa had, konteks 1M; tools tidak disenaraikan

Untuk DeepSeek V4.1 Flash, buang tool_use melainkan ujian anda sendiri menunjukkan panggilan alatan berfungsi, dan tetapkan contextLength: 1048576. Harga setiap model ada di halaman harga. Halaman model GLM 5.3 mengandungi hadnya.

Penyelesaian masalah

  • 401. Semak apiKey. Kunci bayar ikut guna yang salah, tamat tempoh atau kehabisan elaun memulangkan 401.
  • Ralat model pada permintaan pertama. model mesti ID BroadNet yang tepat, dengan awalan broadnet/. GLM 5.3, Qwen3.8 27B dan DeepSeek V4.1 Flash memerlukan tambah nilai; kredit permulaan $5 meliputi BroadNet Gemma 4 VL 26B dan dua model Transcribe.
  • Balasan kosong atau terputus. Naikkan maxTokens. Mengapa jawapan kosong.
  • 429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Agent mode membuat banyak panggilan berturut-turut; tambah backoff dalam aliran kerja anda atau jarakkan larian. Lihat ralat dan cuba semula.
  • Beberapa ejen serentak pada satu kunci pelan. Setiap sesi pelan tanpa had menjalankan satu permintaan pada satu masa. Beri setiap ejen selari sesinya sendiri.
  • Endpoint salah. Dokumentasi Continue menyebut useLegacyCompletionsEndpoint dan useResponsesApi. Jangan tetapkan pilihan legacy itu; BroadNet menyediakan /v1/chat/completions. Continue menggunakan /responses secara lalai hanya untuk model siri-o dan GPT-5 OpenAI, jadi ID BroadNet menggunakan chat completions tanpa tetapan tambahan.

Soalan lazim

Di manakah config.yaml Continue?

Fail setempat terletak di ~/.continue/config.yaml pada macOS dan Linux, dan %USERPROFILE%\.continue\config.yaml pada Windows. Anda juga boleh membukanya daripada ikon gear di sebelah Local Config dalam senarai juntai bawah konfigurasi.

Mengapakah saya tidak boleh menggunakan Agent mode dengan model BroadNet saya?

Continue memerlukan keupayaan tool_use untuk Agent mode. Tambah capabilities dengan tool_use pada entri model, dan pilih model yang disenaraikan oleh BroadNet dengan tools, seperti broadnet/glm-5.3.

Mengapakah Continue memulangkan jawapan kosong?

Penaakulan menghabiskan maxTokens sebelum jawapan bermula. Naikkan maxTokens di bawah defaultCompletionOptions kepada beberapa ribu.

Patutkah saya menggunakan config.json atau config.yaml untuk Continue?

Gunakan config.yaml. Dokumentasi Continue melabelkan config.json dan rujukannya sebagai deprecated (tidak digunakan lagi), dan semua contoh semasa menggunakan YAML dengan schema v1.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity