BroadRouter

Open WebUI को BroadNet Inference से जोड़ें

अपडेट किया गया

Open WebUI में एडमिन सेक्शन के Settings > Connections पर जाएँ, Manage OpenAI API Connections के नीचे Add Connection पर क्लिक करें, URL को https://inference.broadnet.ai/v1 और API Key को अपनी BroadNet key पर सेट करें। फिर broadnet/glm-5.3 जैसे मॉडल ID को Model IDs allowlist में जोड़ें और सेव करें।

Open WebUI एक सेल्फ़-होस्टेड चैट इंटरफ़ेस है। यह OpenAI chat-completions प्रोटोकॉल लागू करने वाले किसी भी प्रोवाइडर से जुड़ जाता है, और BroadNet Inference यह प्रोटोकॉल लागू करता है। नीचे के स्टेप OpenAI-compatible प्रोवाइडर के लिए Open WebUI की गाइड के अनुसार हैं।

सेटअप

  1. BroadNet key लें। जिस चैट UI को कई लोग इस्तेमाल करते हैं, उसके लिए उपयोग के अनुसार भुगतान वाली key सही रहती है। API key और IP allow-list देखें।

  2. कनेक्शन पेज खोलें। एडमिन सेक्शन में Settings > Connections पर जाएँ और Manage OpenAI API Connections ढूँढें।

  3. Add Connection पर क्लिक करें और ये भरें:

    फ़ील्ड वैल्यू
    URL https://inference.broadnet.ai/v1 (अंत में स्लैश नहीं)
    API Key आपकी BroadNet key
    Model IDs नीचे का हर ID, एक-एक करके, + आइकन से जोड़ें
  4. मॉडल ID ख़ुद जोड़ें। broadnet/glm-5.3 टाइप करें, + पर क्लिक करें, फिर बाक़ी जिन मॉडल को चाहें उनके लिए दोहराएँ। BroadNet के डॉक्स GET /v1/models को मॉनिटर के लिए सार्वजनिक कैटलॉग मेटाडेटा बताते हैं, इसलिए मॉडल पिकर भरने के लिए उस पर भरोसा न करें।

  5. Save पर क्लिक करें। Open WebUI के डॉक्स बताते हैं कि सेव करने से कनेक्शन टेस्ट नहीं होता।

  6. चैट शुरू करें और मॉडल सिलेक्टर से मॉडल चुनें।

एनवायरनमेंट वेरिएबल के साथ

अगर आप Open WebUI को Docker में चलाते हैं, तो कनेक्शन स्टार्टअप पर ही सेट कर सकते हैं:

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

किसी मौजूदा OpenAI कनेक्शन के साथ BroadNet जोड़ने के लिए बहुवचन वाले नाम इस्तेमाल करें, सेमीकोलन से अलग करके: OPENAI_API_BASE_URLS और OPENAI_API_KEYS। OPENAI_API_CONFIGS हर कनेक्शन के विकल्प सेट करता है, जैसे model_ids; इसकी key उस लिस्ट में कनेक्शन का इंडेक्स होती है:

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

Open WebUI का एनवायरनमेंट वेरिएबल रेफ़रंस इन्हें ConfigVar सेटिंग बताता है। ये पहली बार चलने पर पढ़ी जाती हैं और डेटाबेस में सेव हो जाती हैं। उसके बाद एडमिन पैनल की वैल्यू ही मान्य रहती है। कनेक्शन को एडमिन सेक्शन के Settings > Connections में बदलें, या अगर आप चाहते हैं कि एनवायरनमेंट हर स्टार्ट पर लागू हो, तो ENABLE_PERSISTENT_CONFIG=False सेट करें।

कौन-सा मॉडल चुनें

इस्तेमाल मॉडल कॉन्टेक्स्ट
आम चैट, टूल, JSON broadnet/glm-5.3 1,048,576
इमेज वाले सवाल, अरबी broadnet/qwen3.8-27b 262,144
लंबे दस्तावेज़, इमेज broadnet/deepseek-v4.1-flash 1,048,576
कम लागत, मुफ़्त क्रेडिट broadnet/gemma-4-26b-a4b 32,768

BroadNet ने Qwen3.8 27B को अरबी में टेस्ट किया है, जिसमें खाड़ी और मिस्री बोलियाँ शामिल हैं; अरबी के लिए LLM चुनना देखें। $5 शुरुआती क्रेडिट पर चैट मॉडल में सिर्फ़ Gemma 4 VL 26B चलता है; यह क्रेडिट दोनों Transcribe मॉडल को भी कवर करता है। हर मॉडल की कीमत प्राइसिंग पेज पर है।

Open WebUI, temperature और max_tokens जैसे स्टैंडर्ड पैरामीटर भेजता है, और जब मॉडल और सर्वर tools सपोर्ट करते हैं, तो टूल का इस्तेमाल भी सपोर्ट करता है। BroadNet, GLM 5.3 और Qwen3.8 27B के लिए टूल सूचीबद्ध करता है।

समस्या का समाधान

  • Verify Connection 400, 401 या 403 के साथ फ़ेल होता है। Open WebUI का verify बटन /models कॉल करता है। उसके डॉक्स कहते हैं कि chat completions फिर भी चल सकते हैं। ID को allowlist में जोड़ें और एक चैट टेस्ट करें। अगर चैट भी 401 लौटाती है, तो key ग़लत है, एक्सपायर हो गई है, या उसका उपयोग के अनुसार भुगतान वाला अलाउंस ख़त्म हो गया है।
  • मॉडल लिस्ट में है, लेकिन पहला संदेश फ़ेल होता है। जाँचें कि ID, broadnet/ प्रीफ़िक्स समेत, BroadNet के ID से हूबहू मिलता है। GLM 5.3, Qwen3.8 27B और DeepSeek V4.1 Flash के लिए टॉप-अप चाहिए।
  • ख़ाली जवाब. रीज़निंग मॉडल (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) पहले आउटपुट टोकन रीज़निंग पर ख़र्च करते हैं। अगर आपने मॉडल के Advanced Params में max_tokens सेट किया है, तो उसे बढ़ाएँ या हटा दें। जवाब ख़ाली क्यों आते हैं।
  • कई लोगों के चैट करने पर 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोध की अनुमति देती है। Open WebUI उसी key पर बैकग्राउंड कॉल भी करता है, जैसे चैट के टाइटल बनाना। एरर और रीट्राई देखें।
  • env vars बदलने का कोई असर नहीं होता। पहली बार चलने पर पुरानी वैल्यू सेव हो गई थीं। कनेक्शन एडमिन पैनल में बदलें, या ऊपर का एनवायरनमेंट वेरिएबल वाला हिस्सा देखें।
  • प्लान key इस्तेमाल करना. अनलिमिटेड प्लान का सेशन एक समय में एक अनुरोध चलाता है, और key शेयर नहीं की जा सकतीं। यह किसी एक व्यक्ति के अपने इंस्टेंस के लिए ठीक है; बाक़ी यूज़र के अनुरोध कतार में लगते हैं।

अक्सर पूछे जाने वाले सवाल

Verify Connection फ़ेल होता है, फिर भी चैट क्यों चलती है?

Open WebUI का verify बटन प्रोवाइडर का /models एंडपॉइंट कॉल करता है। उसके डॉक्स कहते हैं कि जाँच फ़ेल होने का मतलब यह नहीं कि चैट ख़राब है। BroadNet के मॉडल ID ख़ुद Model IDs allowlist में जोड़ें।

क्या मैं एनवायरनमेंट वेरिएबल से कनेक्शन सेट कर सकता हूँ?

हाँ। OPENAI_API_BASE_URL को https://inference.broadnet.ai/v1 और OPENAI_API_KEY को अपनी BroadNet key पर सेट करें। Open WebUI इन्हें पहली बार चलने पर सेव कर लेता है, इसलिए बाद में वेरिएबल बदलने का असर नहीं होता, जब तक ENABLE_PERSISTENT_CONFIG, False न हो।

OPENAI_API_BASE_URL की नई वैल्यू लागू क्यों नहीं हुई?

Open WebUI इसे ConfigVar मानता है। पहली बार चलने के बाद वह अपने डेटाबेस में सेव वैल्यू इस्तेमाल करता है। URL को एडमिन सेक्शन के Settings > Connections में बदलें, या हर स्टार्ट पर एनवायरनमेंट पढ़ने के लिए ENABLE_PERSISTENT_CONFIG=False सेट करें।

क्या पूरी टीम Open WebUI में एक ही अनलिमिटेड प्लान key शेयर कर सकती है?

नहीं। BroadNet के प्लान में key शेयर करने की अनुमति नहीं है, और एक प्लान सेशन एक समय में एक अनुरोध चलाता है। साझा Open WebUI के लिए उपयोग के अनुसार भुगतान वाली key इस्तेमाल करें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें