BroadRouter
Mulai

Menghubungkan Open WebUI ke BroadNet Inference

Diperbarui

Di Open WebUI, buka Settings > Connections di bagian admin, klik Add Connection di bawah Manage OpenAI API Connections, isi URL dengan https://inference.broadnet.ai/v1 dan API Key dengan kunci BroadNet Anda, lalu tambahkan ID model seperti broadnet/glm-5.3 ke allowlist Model IDs dan simpan.

Open WebUI adalah antarmuka chat yang Anda host sendiri. Open WebUI bisa terhubung ke penyedia apa pun yang menerapkan protokol chat completions OpenAI, dan BroadNet Inference menerapkannya. Langkah-langkah di bawah mengikuti panduan Open WebUI untuk penyedia kompatibel OpenAI.

Penyiapan

  1. Dapatkan kunci BroadNet. Untuk UI chat yang dipakai beberapa orang, kunci bayar sesuai pemakaian adalah pilihan yang tepat. Lihat kunci API dan IP allow-list.

  2. Buka halaman koneksi. Buka Settings > Connections di bagian admin dan cari Manage OpenAI API Connections.

  3. Klik Add Connection lalu isi:

    Field Nilai
    URL https://inference.broadnet.ai/v1 (tanpa garis miring di akhir)
    API Key kunci BroadNet Anda
    Model IDs tambahkan setiap ID di bawah satu per satu dengan ikon +
  4. Tambahkan ID model secara manual. Ketik broadnet/glm-5.3, klik +, lalu ulangi untuk model lain yang Anda inginkan. Dokumentasi BroadNet menyebut GET /v1/models sebagai metadata katalog publik untuk alat pemantau, jadi jangan mengandalkannya untuk mengisi pilihan model.

  5. Klik Save. Dokumentasi Open WebUI mencatat bahwa menyimpan tidak menguji koneksi.

  6. Mulai chat dan pilih model dari pemilih model.

Dengan environment variable

Jika Anda menjalankan Open WebUI di Docker, koneksi bisa diatur saat startup:

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

Untuk menambahkan BroadNet di samping koneksi OpenAI yang sudah ada, gunakan bentuk jamaknya yang dipisahkan titik koma: OPENAI_API_BASE_URLS dan OPENAI_API_KEYS. OPENAI_API_CONFIGS mengatur opsi per koneksi seperti model_ids, dengan kunci berupa indeks koneksi di daftar tersebut:

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

Referensi environment variable Open WebUI menandai variabel ini sebagai pengaturan ConfigVar. Nilainya dibaca saat peluncuran pertama dan disimpan di database. Setelah itu, panel admin yang berlaku. Edit koneksi di Settings > Connections di bagian admin, atau atur ENABLE_PERSISTENT_CONFIG=False jika Anda ingin environment diterapkan setiap kali start.

Model mana yang dipilih

Kegunaan Model Konteks
Chat umum, tools, JSON broadnet/glm-5.3 1.048.576
Pertanyaan tentang gambar, bahasa Arab broadnet/qwen3.8-27b 262.144
Dokumen panjang, gambar broadnet/deepseek-v4.1-flash 1.048.576
Biaya rendah, kredit gratis broadnet/gemma-4-26b-a4b 32.768

BroadNet menguji Qwen3.8 27B dalam bahasa Arab, termasuk dialek Teluk dan Mesir; lihat memilih LLM untuk bahasa Arab. Gemma 4 VL 26B adalah satu-satunya model chat yang berfungsi dengan kredit awal $5; kredit ini juga mencakup dua model Transcribe. Harga masing-masing ada di halaman harga.

Open WebUI meneruskan parameter standar seperti temperature dan max_tokens, dan mendukung penggunaan tool jika model dan servernya mendukung tools. BroadNet mencantumkan tools untuk GLM 5.3 dan Qwen3.8 27B.

Pemecahan masalah

  • Verify Connection gagal dengan 400, 401, atau 403. Tombol verifikasi Open WebUI memanggil /models. Menurut dokumentasinya, chat completions tetap bisa berfungsi. Tambahkan ID ke allowlist dan uji sebuah chat. Jika chat juga mengembalikan 401, kuncinya salah, kedaluwarsa, atau jatah bayar sesuai pemakaian sudah habis.
  • Model terdaftar tetapi pesan pertama gagal. Pastikan ID sama persis dengan milik BroadNet, termasuk prefiks broadnet/. GLM 5.3, Qwen3.8 27B, dan DeepSeek V4.1 Flash memerlukan top up.
  • Balasan kosong. Model penalaran (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) menghabiskan token output untuk bernalar lebih dulu. Jika Anda mengatur max_tokens di Advanced Params model, naikkan atau kosongkan. Kenapa jawaban kembali kosong.
  • 429 saat beberapa orang chat. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan sekaligus. Open WebUI juga melakukan panggilan latar belakang, misalnya untuk judul chat, dengan kunci yang sama. Lihat panduan error dan percobaan ulang.
  • Environment variable yang diubah tidak berpengaruh. Peluncuran pertama sudah menyimpan nilai lama. Edit koneksi di panel admin, atau lihat bagian environment variable di atas.
  • Memakai kunci paket. Satu sesi paket unlimited menjalankan satu permintaan dalam satu waktu, dan kunci tidak boleh dibagi. Kunci paket cocok untuk instance pribadi satu orang; permintaan pengguna tambahan akan mengantre.

Pertanyaan umum

Kenapa Verify Connection gagal padahal chat berfungsi?

Tombol verifikasi Open WebUI memanggil endpoint /models milik penyedia. Menurut dokumentasinya, pemeriksaan yang gagal tidak berarti chat rusak. Tambahkan ID model BroadNet ke allowlist Model IDs secara manual.

Bisakah koneksi diatur dengan environment variable?

Bisa. Atur OPENAI_API_BASE_URL ke https://inference.broadnet.ai/v1 dan OPENAI_API_KEY ke kunci BroadNet Anda. Open WebUI menyimpan nilai ini saat pertama kali dijalankan, jadi perubahan variabel setelahnya diabaikan kecuali ENABLE_PERSISTENT_CONFIG bernilai False.

Kenapa nilai OPENAI_API_BASE_URL yang baru tidak berlaku?

Open WebUI memperlakukannya sebagai ConfigVar. Setelah peluncuran pertama, Open WebUI memakai nilai yang tersimpan di database. Ubah URL di Settings > Connections di bagian admin, atau atur ENABLE_PERSISTENT_CONFIG=False agar environment dibaca setiap kali start.

Bisakah satu tim berbagi satu kunci paket unlimited di Open WebUI?

Tidak. Paket BroadNet tidak mengizinkan kunci dibagi, dan satu sesi paket menjalankan satu permintaan dalam satu waktu. Gunakan kunci bayar sesuai pemakaian untuk Open WebUI bersama.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity