BroadRouter

Jan dengan BroadNet Inference sebagai provider kompatibel OpenAI

Diperbarui

Di Jan, buka Settings, Model Providers, lalu klik Add Provider. Pilih OpenAI-compatible, beri nama BroadNet, atur Base URL ke https://inference.broadnet.ai/v1, dan tempel kunci BroadNet Anda. Lalu tambahkan model chat secara manual dengan tombol +, misalnya broadnet/glm-5.3, dan aktifkan Tools atau vision untuk setiap model di bagian kemampuannya.

Jan adalah aplikasi chat desktop open source yang menjalankan model lokal dan bisa terhubung ke API cloud. Layanan apa pun yang memakai format OpenAI bisa ditambahkan sebagai custom provider. BroadNet Inference menyajikan chat completions standar di https://inference.broadnet.ai/v1. BroadRouter adalah situs milik BroadNet sendiri; langkah-langkahnya mengikuti halaman Custom Endpoints Jan per Jan 0.8.8.

Penyiapan

  1. Dapatkan kunci. Buat kunci bayar sesuai pemakaian di konsol BroadNet, atau beli kunci per jam atau sebuah paket.

  2. Buka dialognya. Masuk ke Settings > Model Providers dan klik tombol Add Provider di samping daftar.

  3. Pilih format API. Pilih OpenAI-compatible, yang merupakan default.

  4. Isi detailnya:

    Field Nilai
    Provider name BroadNet
    Base URL https://inference.broadnet.ai/v1
    API key kunci BroadNet Anda
  5. Klik Create.

  6. Tambahkan model secara manual. Di bagian Models milik provider, klik + dan masukkan setiap ID model chat persis, misalnya broadnet/glm-5.3.

  7. Atur kemampuan. Klik ikon pensil di samping setiap model dan aktifkan yang didukungnya (lihat tabel di bawah). Jan tidak bisa mendeteksi hal ini untuk custom provider.

  8. Uji. Mulai chat baru, pilih model BroadNet di pemilih model, dan kirim pesan singkat.

Jan mengambil https://inference.broadnet.ai/v1/models saat Anda menyimpan. Dokumentasi BroadNet menyebut endpoint itu sebagai metadata katalog untuk alat pemantau, dan saat kami periksa pada 15 November 2026 isinya hanya dua model transkripsi. Model-model itu tidak bisa chat; hapus jika muncul.

ID model dan kemampuannya

Model ID Tools Gambar Konteks
GLM 5.3 broadnet/glm-5.3 Aktif Nonaktif 1.048.576
Qwen3.8 27B broadnet/qwen3.8-27b Aktif Aktif 262.144
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash Nonaktif (tidak dicantumkan BroadNet) Aktif 1.048.576
BroadNet Gemma 4 VL 26B broadnet/gemma-4-26b-a4b Nonaktif Aktif 32.768

broadnet/gemma-4-26b-a4b adalah satu-satunya model chat yang berjalan dengan kredit awal $5, dan model inilah yang ada di balik kunci per jam BroadNet ($0.50 untuk satu jam, satu stream). Model lainnya memerlukan top up atau, untuk DeepSeek V4.1 Flash, paket unlimited.

Pengaturan yang layak diubah

  • Batas output. Tiga dari model ini bernalar sebelum menjawab, dan penalaran ikut dihitung dalam max_tokens. Jika Anda mengatur batas output untuk model BroadNet, pasang di 1.000 token atau lebih.
  • Sampler. Untuk custom provider, Jan menampilkan seluruh parameter sampling, dan dokumentasinya memperingatkan bahwa custom endpoint bisa diam-diam mengabaikan sampler yang tidak didukungnya. Jika pengaturan seperti min-P seolah tidak berpengaruh, itulah sebabnya.
  • Kunci cadangan. Jan bisa menyimpan beberapa kunci per provider dan mencoba ulang dengan kunci berikutnya saat menerima 401, 403, atau 429. Kebijakan Penggunaan yang Dapat Diterima BroadNet melarang upaya mengakali batas rate atau konkurensi, jadi pakai kunci tambahan untuk failover, bukan untuk melipatgandakan batas Anda.

Pemecahan masalah

  • 404 di setiap permintaan. Base URL tidak memuat /v1. Dokumentasi Jan menyebut ini kesalahan yang paling umum.
  • 401 atau 403. Kuncinya salah, kedaluwarsa, atau jatahnya habis. Hasil Test keys yang lolos tidak membuktikan kuncinya berfungsi, karena /v1/models BroadNet tetap menjawab tanpa kunci saat kami periksa.
  • Model tidak ditemukan. Periksa ID-nya, termasuk prefiks broadnet/. Model berbayar memerlukan top up.
  • Jawaban kosong. Penalaran menghabiskan anggaran output. Naikkan batas output. Kenapa jawaban kembali kosong.
  • 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan yang berjalan bersamaan; kunci per jam menjalankan satu stream. Lihat panduan error dan percobaan ulang.

Pertanyaan umum

Kenapa Jan hanya menampilkan model transkripsi setelah BroadNet ditambahkan?

Jan mengambil https://inference.broadnet.ai/v1/models saat Anda menyimpan. Saat kami periksa pada 15 November 2026, /v1/models publik BroadNet hanya mencantumkan dua model transkripsinya, yang tidak bisa dipakai untuk chat. Hapus keduanya dan tambahkan ID model chat secara manual.

Tombol Test keys di Jan bilang OK. Apakah kunci saya valid?

Belum tentu. Jan menguji kunci dengan memanggil /models, dan /v1/models BroadNet tetap menjawab tanpa kunci saat kami periksa. Kirim pesan chat untuk memastikan kuncinya.

Bisakah kunci per jam BroadNet dipakai di Jan?

Bisa. Kunci per jam menjalankan BroadNet Gemma 4 VL 26B, ID broadnet/gemma-4-26b-a4b, dengan satu stream dalam satu waktu, cocok untuk satu jendela chat.

Apakah Jan mendeteksi apakah model BroadNet mendukung gambar atau tools?

Tidak. Dokumentasi Jan menyebut kemampuan custom provider tidak dideteksi. Aktifkan input gambar untuk DeepSeek V4.1 Flash, Qwen3.8 27B, dan Gemma 4 VL 26B, serta Tools untuk GLM 5.3 dan Qwen3.8 27B.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity