BroadRouter
Mulakan

Guna Jan dengan BroadNet Inference sebagai penyedia serasi OpenAI

Dikemas kini

Dalam Jan, buka Settings, Model Providers dan klik Add Provider. Pilih OpenAI-compatible, namakannya BroadNet, tetapkan Base URL kepada https://inference.broadnet.ai/v1 dan tampal kunci BroadNet anda. Kemudian tambah model chat secara manual dengan butang +, contohnya broadnet/glm-5.3, dan hidupkan Tools atau vision bagi setiap model di bawah keupayaannya.

Jan ialah aplikasi chat desktop sumber terbuka yang menjalankan model tempatan dan bersambung ke API awan. Sebarang perkhidmatan yang menggunakan format OpenAI boleh ditambah sebagai penyedia tersuai (custom provider). BroadNet Inference menyediakan chat completions standard di https://inference.broadnet.ai/v1. BroadRouter ialah laman web BroadNet sendiri; langkah di bawah mengikut halaman Custom Endpoints Jan setakat Jan 0.8.8.

Persediaan

  1. Dapatkan kunci. Cipta kunci bayar ikut guna dalam konsol BroadNet, atau beli kunci sejam atau pelan.

  2. Buka dialog. Pergi ke Settings > Model Providers dan klik butang Add Provider di sebelah senarai.

  3. Pilih format API. Pilih OpenAI-compatible, iaitu lalai.

  4. Isikan butiran:

    Medan Nilai
    Provider name BroadNet
    Base URL https://inference.broadnet.ai/v1
    API key kunci BroadNet anda
  5. Klik Create.

  6. Tambah model secara manual. Dalam bahagian Models penyedia, klik + dan masukkan setiap ID model chat dengan tepat, contohnya broadnet/glm-5.3.

  7. Tetapkan keupayaan. Klik ikon pensel di sebelah setiap model dan hidupkan apa yang disokongnya (jadual di bawah). Jan tidak dapat mengesan ini untuk penyedia tersuai.

  8. Uji. Mulakan chat baharu, pilih model BroadNet dalam pemilih model dan hantar mesej pendek.

Jan mengambil https://inference.broadnet.ai/v1/models apabila anda menyimpan. Dokumentasi BroadNet menerangkan endpoint itu sebagai metadata katalog untuk pemantau, dan semasa kami menyemaknya pada 15 November 2026 ia hanya menyenaraikan dua model transkripsi. Model itu tidak boleh berbual; buang jika ia muncul.

ID model dan keupayaan

Model ID Tools Imej Konteks
GLM 5.3 broadnet/glm-5.3 Hidup Mati 1,048,576
Qwen3.8 27B broadnet/qwen3.8-27b Hidup Hidup 262,144
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash Mati (tidak disenaraikan BroadNet) Hidup 1,048,576
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b Mati Hidup 32,768

broadnet/gemma-4-26b-a4b ialah satu-satunya model chat yang berjalan dengan kredit permulaan $5, dan ia model di sebalik kunci sejam BroadNet ($0.50 untuk satu jam, satu strim). Model lain memerlukan tambah nilai atau, bagi DeepSeek V4.1 Flash, pelan tanpa had.

Tetapan yang patut diubah

  • Had output. Tiga daripada model ini membuat penaakulan sebelum menjawab, dan penaakulan dikira dalam max_tokens. Jika anda menetapkan had output untuk model BroadNet, kekalkannya pada 1,000 token atau lebih.
  • Pensampel. Untuk penyedia tersuai, Jan memaparkan set penuh parameter persampelan, dan dokumentasinya memberi amaran bahawa custom endpoint mungkin mengabaikan pensampel yang tidak disokong tanpa sebarang makluman. Jika tetapan seperti min-P seolah-olah tiada kesan, itulah sebabnya.
  • Kunci sandaran. Jan boleh menyimpan beberapa kunci bagi setiap penyedia dan mencuba semula dengan kunci seterusnya apabila menerima 401, 403 atau 429. Dasar Penggunaan Boleh Diterima BroadNet melarang pengelakan had kadar atau had serentak, jadi gunakan kunci tambahan untuk failover, bukan untuk menggandakan had anda.

Penyelesaian masalah

  • 404 pada setiap permintaan. Base URL tiada /v1. Dokumentasi Jan menyebut ini kesilapan paling biasa.
  • 401 atau 403. Kunci salah, tamat tempoh atau kehabisan elaun. Keputusan Test keys yang lulus tidak membuktikan kunci berfungsi, kerana /v1/models BroadNet menjawab tanpa kunci semasa kami menyemak.
  • Model tidak dijumpai. Semak ID, termasuk awalan broadnet/. Model berbayar memerlukan tambah nilai.
  • Jawapan kosong. Penaakulan menghabiskan bajet output. Naikkan had output. Mengapa jawapan kosong.
  • 429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak; kunci sejam menjalankan satu strim. Lihat ralat dan cuba semula.

Soalan lazim

Mengapakah Jan hanya menunjukkan model transkripsi selepas saya menambah BroadNet?

Jan mengambil https://inference.broadnet.ai/v1/models apabila anda menyimpan. Semasa kami menyemak pada 15 November 2026, /v1/models awam BroadNet hanya menyenaraikan dua model transkripsinya, yang tidak berfungsi dalam chat. Buang model itu dan tambah ID model chat secara manual.

Butang Test keys Jan menunjukkan OK. Adakah kunci saya sah?

Belum tentu. Jan menguji kunci dengan memanggil /models, dan /v1/models BroadNet menjawab tanpa kunci semasa kami menyemak. Hantar mesej chat untuk mengesahkan kunci.

Bolehkah saya guna kunci sejam BroadNet dalam Jan?

Boleh. Kunci sejam menjalankan BroadNet Gemma 4 VL 26B, ID broadnet/gemma-4-26b-a4b, dengan satu strim pada satu masa, yang sesuai untuk satu tetingkap chat.

Adakah Jan mengesan sama ada model BroadNet menyokong imej atau alatan?

Tidak. Dokumentasi Jan menyatakan keupayaan penyedia tersuai tidak dikesan. Hidupkan input imej untuk DeepSeek V4.1 Flash, Qwen3.8 27B dan Gemma 4 VL 26B, dan Tools untuk GLM 5.3 dan Qwen3.8 27B.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity