BroadRouter
Mulakan

Cara sambungkan Open WebUI kepada BroadNet Inference

Dikemas kini

Dalam Open WebUI, pergi ke Settings > Connections dalam bahagian admin, klik Add Connection di bawah Manage OpenAI API Connections, tetapkan URL kepada https://inference.broadnet.ai/v1 dan API Key kepada kunci BroadNet anda, kemudian tambah ID model seperti broadnet/glm-5.3 dalam senarai dibenarkan Model IDs dan simpan.

Open WebUI ialah antara muka chat yang dihoskan sendiri. Ia bersambung kepada sebarang penyedia yang melaksanakan protokol chat completions OpenAI, dan BroadNet Inference salah satunya. Langkah-langkahnya mengikut panduan Open WebUI untuk penyedia serasi OpenAI.

Persediaan

  1. Dapatkan kunci BroadNet. Untuk UI chat yang digunakan oleh beberapa orang, kunci bayar ikut guna paling sesuai. Lihat kunci API dan senarai IP dibenarkan.

  2. Buka halaman sambungan. Pergi ke Settings > Connections dalam bahagian admin dan cari Manage OpenAI API Connections.

  3. Klik Add Connection dan isikan:

    Medan Nilai
    URL https://inference.broadnet.ai/v1 (tanpa garis condong di hujung)
    API Key kunci BroadNet anda
    Model IDs tambah setiap ID di bawah, satu demi satu, dengan ikon +
  4. Tambah ID model secara manual. Taip broadnet/glm-5.3, klik +, kemudian ulang untuk model lain yang anda mahukan. Dokumentasi BroadNet menerangkan GET /v1/models sebagai metadata katalog awam untuk pemantau, jadi jangan bergantung padanya untuk mengisi pemilih model.

  5. Klik Save. Dokumentasi Open WebUI menyatakan bahawa menyimpan tidak menguji sambungan.

  6. Mulakan chat dan pilih model daripada pemilih model.

Dengan pembolehubah persekitaran

Jika anda menjalankan Open WebUI dalam Docker, anda boleh menetapkan sambungan semasa permulaan:

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

Untuk menambah BroadNet di sebelah sambungan OpenAI sedia ada, gunakan bentuk jamak yang dipisahkan dengan koma bertitik: OPENAI_API_BASE_URLS dan OPENAI_API_KEYS. OPENAI_API_CONFIGS menetapkan pilihan bagi setiap sambungan seperti model_ids, dikunci mengikut indeks sambungan dalam senarai itu:

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

Rujukan pembolehubah persekitaran Open WebUI menandakan tetapan ini sebagai ConfigVar. Ia dibaca pada pelancaran pertama dan disimpan dalam pangkalan data. Selepas itu, panel admin yang diutamakan. Sunting sambungan dalam Settings > Connections dalam bahagian admin, atau tetapkan ENABLE_PERSISTENT_CONFIG=False jika anda mahu persekitaran diguna pakai pada setiap permulaan.

Model mana yang patut dipilih

Kegunaan Model Konteks
Chat umum, alatan, JSON broadnet/glm-5.3 1,048,576
Soalan tentang imej, bahasa Arab broadnet/qwen3.8-27b 262,144
Dokumen panjang, imej broadnet/deepseek-v4.1-flash 1,048,576
Kos rendah, kredit percuma broadnet/gemma-4-26b-a4b 32,768

BroadNet menguji Qwen3.8 27B dalam bahasa Arab, termasuk dialek Teluk dan Mesir; lihat memilih LLM untuk bahasa Arab. Gemma 4 VL 26B ialah satu-satunya model chat yang berfungsi dengan kredit permulaan $5; kredit itu juga meliputi dua model Transcribe. Harga setiap model ada di halaman harga.

Open WebUI menghantar parameter standard seperti temperature dan max_tokens, dan menyokong penggunaan alatan apabila model dan pelayan menyokong tools. BroadNet menyenaraikan tools untuk GLM 5.3 dan Qwen3.8 27B.

Penyelesaian masalah

  • Verify Connection gagal dengan 400, 401 atau 403. Butang verify Open WebUI memanggil /models. Dokumentasinya menyatakan chat completions masih boleh berfungsi. Tambah ID dalam senarai dibenarkan dan uji satu chat. Jika chat juga memulangkan 401, kunci salah, tamat tempoh, atau elaun bayar ikut guna telah habis.
  • Model tersenarai tetapi mesej pertama gagal. Pastikan ID sepadan tepat dengan ID BroadNet, termasuk awalan broadnet/. GLM 5.3, Qwen3.8 27B dan DeepSeek V4.1 Flash memerlukan tambah nilai.
  • Balasan kosong. Model penaakulan (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) menggunakan token output untuk penaakulan dahulu. Jika anda menetapkan max_tokens dalam Advanced Params model, naikkan atau kosongkan nilainya. Mengapa jawapan kosong.
  • 429 apabila ramai orang berchat. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Open WebUI juga membuat panggilan latar belakang, seperti tajuk chat, dengan kunci yang sama. Lihat ralat dan cuba semula.
  • Pembolehubah persekitaran yang ditukar tiada kesan. Pelancaran pertama telah menyimpan nilai lama. Sunting sambungan dalam panel admin, atau lihat bahagian pembolehubah persekitaran di atas.
  • Menggunakan kunci pelan. Sesi pelan tanpa had menjalankan satu permintaan pada satu masa, dan kunci tidak boleh dikongsi. Ia sesuai untuk instans peribadi seorang pengguna; permintaan pengguna lain akan beratur.

Soalan lazim

Mengapakah Verify Connection gagal tetapi chat berfungsi?

Butang verify Open WebUI memanggil endpoint /models penyedia. Dokumentasinya menyatakan semakan yang gagal tidak bermakna chat rosak. Tambah ID model BroadNet dalam senarai dibenarkan Model IDs secara manual.

Bolehkah saya menetapkan sambungan dengan pembolehubah persekitaran?

Boleh. Tetapkan OPENAI_API_BASE_URL kepada https://inference.broadnet.ai/v1 dan OPENAI_API_KEY kepada kunci BroadNet anda. Open WebUI menyimpan nilai ini pada pelancaran pertama, jadi perubahan seterusnya pada pembolehubah itu diabaikan melainkan ENABLE_PERSISTENT_CONFIG ialah False.

Mengapakah nilai OPENAI_API_BASE_URL baharu saya tidak berkesan?

Open WebUI menganggapnya sebagai ConfigVar. Selepas pelancaran pertama, ia menggunakan nilai yang disimpan dalam pangkalan datanya. Tukar URL dalam Settings > Connections dalam bahagian admin, atau tetapkan ENABLE_PERSISTENT_CONFIG=False untuk membaca persekitaran pada setiap permulaan.

Bolehkah seluruh pasukan saya berkongsi satu kunci pelan tanpa had dalam Open WebUI?

Tidak. Pelan BroadNet tidak membenarkan perkongsian kunci, dan satu sesi pelan menjalankan satu permintaan pada satu masa. Gunakan kunci bayar ikut guna untuk Open WebUI yang dikongsi.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity