BroadRouter
Mulai

Memakai Continue dengan BroadNet Inference (config.yaml dan apiBase)

Diperbarui

Di ~/.continue/config.yaml, tambahkan model dengan provider openai, model berisi ID BroadNet seperti broadnet/glm-5.3, apiBase https://inference.broadnet.ai/v1, dan apiKey berisi kunci BroadNet Anda. Tambahkan capabilities tool_use untuk Agent mode, lalu atur contextLength dan maxTokens di bawah defaultCompletionOptions.

Continue adalah asisten AI open source untuk VS Code dan JetBrains. Continue terhubung ke server yang kompatibel dengan OpenAI lewat provider openai dengan override apiBase, seperti ditunjukkan di dokumentasi provider OpenAI Continue. BroadNet Inference cocok dengan pola itu: format permintaan sama, hanya base URL dan ID model yang berbeda.

Penyiapan

  1. Dapatkan kunci BroadNet dari konsol. Lihat kunci API.
  2. Buka konfigurasi lokal. Lokasinya ~/.continue/config.yaml di macOS dan Linux, dan %USERPROFILE%\.continue\config.yaml di Windows. Di IDE, buka dropdown konfigurasi di atas kolom input chat dan klik ikon roda gigi di samping Local Config.
  3. Tambahkan model.
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. Simpan lalu pilih model di pemilih model pada panel Continue.

Jangan masukkan file ini ke version control, karena file ini menyimpan kunci.

Fungsi tiap field

  • provider: openai membuat Continue mengirim permintaan chat completions standar.
  • apiBase menggantikan alamat default OpenAI. Jangan tambahkan /chat/completions; Continue menambahkan path-nya sendiri.
  • capabilities menimpa deteksi otomatis Continue. Referensinya menyebut tool_use wajib untuk Agent mode dan image_input mengaktifkan unggah gambar. Continue tidak bisa mendeteksi keduanya untuk ID kustom, jadi atur sendiri.
  • contextLength dan maxTokens berada di bawah defaultCompletionOptions. Di BroadNet, penalaran ikut dihitung dalam maxTokens, jadi sisakan ruang.
  • roles secara default berisi chat, edit, apply, dan summarize. Kami tidak menyertakan autocomplete: model-model ini bernalar sebelum menjawab, sehingga lebih cocok untuk chat dan edit daripada pelengkapan per ketikan.

Model mana yang dipilih

Kegunaan Model Alasan
Chat dan Agent mode broadnet/glm-5.3 Tools dan output terstruktur, konteks 1M
Screenshot, bahasa Arab broadnet/qwen3.8-27b Tools dan input gambar, konteks 262K
Chat panjang dengan paket harga tetap broadnet/deepseek-v4.1-flash Paket unlimited, konteks 1M; tools tidak dicantumkan

Untuk DeepSeek V4.1 Flash, hapus tool_use kecuali pengujian Anda sendiri menunjukkan tool call berfungsi, dan atur contextLength: 1048576. Harga semua model ada di halaman harga. Halaman model GLM 5.3 memuat batas-batasnya.

Pemecahan masalah

  • 401. Periksa apiKey. Kunci bayar sesuai pemakaian yang salah, kedaluwarsa, atau jatahnya habis mengembalikan 401.
  • Error model pada permintaan pertama. model harus berupa ID BroadNet yang persis, dengan prefiks broadnet/. GLM 5.3, Qwen3.8 27B, dan DeepSeek V4.1 Flash memerlukan top up; kredit awal $5 hanya mencakup BroadNet Gemma 4 VL 26B.
  • Balasan kosong atau terpotong. Naikkan maxTokens. Kenapa jawaban kembali kosong.
  • 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan sekaligus. Agent mode membuat banyak panggilan berturut-turut; tambahkan backoff di alur kerja Anda atau beri jeda antar-run. Lihat panduan error dan percobaan ulang.
  • Beberapa agen sekaligus dengan kunci paket. Setiap sesi paket unlimited menjalankan satu permintaan dalam satu waktu. Beri setiap agen paralel sesinya sendiri.
  • Endpoint salah. Dokumentasi Continue menyebut useLegacyCompletionsEndpoint dan useResponsesApi. Jangan atur opsi legacy; BroadNet melayani /v1/chat/completions. Continue memakai /responses secara default hanya untuk model o-series dan GPT-5 dari OpenAI, jadi ID BroadNet memakai chat completions tanpa pengaturan tambahan.

Pertanyaan umum

Di mana letak config.yaml Continue?

File lokalnya ada di ~/.continue/config.yaml di macOS dan Linux, serta %USERPROFILE%\.continue\config.yaml di Windows. Anda juga bisa membukanya dari ikon roda gigi di samping Local Config pada dropdown konfigurasi.

Kenapa Agent mode tidak bisa dipakai dengan model BroadNet saya?

Continue memerlukan capability tool_use untuk Agent mode. Tambahkan capabilities berisi tool_use ke entri model, dan pilih model yang dicantumkan BroadNet dengan tools, seperti broadnet/glm-5.3.

Kenapa Continue mengembalikan jawaban kosong?

Penalaran menghabiskan maxTokens sebelum jawaban dimulai. Naikkan maxTokens di bawah defaultCompletionOptions menjadi beberapa ribu.

Sebaiknya pakai config.json atau config.yaml untuk Continue?

Pakai config.yaml. Dokumentasi Continue menandai config.json dan referensinya sebagai deprecated, dan semua contoh terbaru memakai YAML dengan schema v1.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity