Open WebUI ialah antara muka chat yang dihoskan sendiri. Ia bersambung kepada sebarang penyedia yang melaksanakan protokol chat completions OpenAI, dan BroadNet Inference salah satunya. Langkah-langkahnya mengikut panduan Open WebUI untuk penyedia serasi OpenAI.
Persediaan
-
Dapatkan kunci BroadNet. Untuk UI chat yang digunakan oleh beberapa orang, kunci bayar ikut guna paling sesuai. Lihat kunci API dan senarai IP dibenarkan.
-
Buka halaman sambungan. Pergi ke Settings > Connections dalam bahagian admin dan cari Manage OpenAI API Connections.
-
Klik Add Connection dan isikan:
Medan Nilai URL https://inference.broadnet.ai/v1(tanpa garis condong di hujung)API Key kunci BroadNet anda Model IDs tambah setiap ID di bawah, satu demi satu, dengan ikon + -
Tambah ID model secara manual. Taip
broadnet/glm-5.3, klik +, kemudian ulang untuk model lain yang anda mahukan. Dokumentasi BroadNet menerangkanGET /v1/modelssebagai metadata katalog awam untuk pemantau, jadi jangan bergantung padanya untuk mengisi pemilih model. -
Klik Save. Dokumentasi Open WebUI menyatakan bahawa menyimpan tidak menguji sambungan.
-
Mulakan chat dan pilih model daripada pemilih model.
Dengan pembolehubah persekitaran
Jika anda menjalankan Open WebUI dalam Docker, anda boleh menetapkan sambungan semasa permulaan:
OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key
Untuk menambah BroadNet di sebelah sambungan OpenAI sedia ada, gunakan bentuk jamak yang dipisahkan dengan koma bertitik: OPENAI_API_BASE_URLS dan OPENAI_API_KEYS. OPENAI_API_CONFIGS menetapkan pilihan bagi setiap sambungan seperti model_ids, dikunci mengikut indeks sambungan dalam senarai itu:
OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'
Rujukan pembolehubah persekitaran Open WebUI menandakan tetapan ini sebagai ConfigVar. Ia dibaca pada pelancaran pertama dan disimpan dalam pangkalan data. Selepas itu, panel admin yang diutamakan. Sunting sambungan dalam Settings > Connections dalam bahagian admin, atau tetapkan ENABLE_PERSISTENT_CONFIG=False jika anda mahu persekitaran diguna pakai pada setiap permulaan.
Model mana yang patut dipilih
| Kegunaan | Model | Konteks |
|---|---|---|
| Chat umum, alatan, JSON | broadnet/glm-5.3 |
1,048,576 |
| Soalan tentang imej, bahasa Arab | broadnet/qwen3.8-27b |
262,144 |
| Dokumen panjang, imej | broadnet/deepseek-v4.1-flash |
1,048,576 |
| Kos rendah, kredit percuma | broadnet/gemma-4-26b-a4b |
32,768 |
BroadNet menguji Qwen3.8 27B dalam bahasa Arab, termasuk dialek Teluk dan Mesir; lihat memilih LLM untuk bahasa Arab. Gemma 4 VL 26B ialah satu-satunya model chat yang berfungsi dengan kredit permulaan $5; kredit itu juga meliputi dua model Transcribe. Harga setiap model ada di halaman harga.
Open WebUI menghantar parameter standard seperti temperature dan max_tokens, dan menyokong penggunaan alatan apabila model dan pelayan menyokong tools. BroadNet menyenaraikan tools untuk GLM 5.3 dan Qwen3.8 27B.
Penyelesaian masalah
- Verify Connection gagal dengan 400, 401 atau 403. Butang verify Open WebUI memanggil
/models. Dokumentasinya menyatakan chat completions masih boleh berfungsi. Tambah ID dalam senarai dibenarkan dan uji satu chat. Jika chat juga memulangkan 401, kunci salah, tamat tempoh, atau elaun bayar ikut guna telah habis. - Model tersenarai tetapi mesej pertama gagal. Pastikan ID sepadan tepat dengan ID BroadNet, termasuk awalan
broadnet/. GLM 5.3, Qwen3.8 27B dan DeepSeek V4.1 Flash memerlukan tambah nilai. - Balasan kosong. Model penaakulan (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) menggunakan token output untuk penaakulan dahulu. Jika anda menetapkan max_tokens dalam Advanced Params model, naikkan atau kosongkan nilainya. Mengapa jawapan kosong.
- 429 apabila ramai orang berchat. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Open WebUI juga membuat panggilan latar belakang, seperti tajuk chat, dengan kunci yang sama. Lihat ralat dan cuba semula.
- Pembolehubah persekitaran yang ditukar tiada kesan. Pelancaran pertama telah menyimpan nilai lama. Sunting sambungan dalam panel admin, atau lihat bahagian pembolehubah persekitaran di atas.
- Menggunakan kunci pelan. Sesi pelan tanpa had menjalankan satu permintaan pada satu masa, dan kunci tidak boleh dikongsi. Ia sesuai untuk instans peribadi seorang pengguna; permintaan pengguna lain akan beratur.
