BroadRouter

Langflow को BroadNet Inference से जोड़ें

अपडेट किया गया

Langflow में OpenAI बंडल से OpenAI कंपोनेंट जोड़ें। Model Name में broadnet/glm-5.3 जैसा BroadNet ID टाइप करें, अपनी BroadNet key पेस्ट करें, और एडवांस्ड सेटिंग में OpenAI API Base को https://inference.broadnet.ai/v1 पर सेट करें। OpenAI Compatible मॉडल प्रोवाइडर इस्तेमाल न करें: वह /v1/models से मॉडल लेता है, और BroadNet की लिस्ट में सिर्फ़ ट्रांसक्रिप्शन मॉडल हैं।

Langflow एजेंट और RAG फ़्लो के लिए एक ओपन-सोर्स विज़ुअल बिल्डर है। इसके OpenAI कंपोनेंट में OpenAI API Base फ़ील्ड है, जो कंपोनेंट के अपने शब्दों में “use other APIs” (अनुवाद: दूसरे API इस्तेमाल करने) देता है। BroadNet Inference https://inference.broadnet.ai/v1 पर chat completions देता है, इसलिए यह कंपोनेंट टाइप किए गए BroadNet मॉडल ID के साथ चलता है। BroadRouter, BroadNet की अपनी साइट है; यह गाइड Langflow 1.13.x के डॉक्स और v1.13.2 में कंपोनेंट के सोर्स कोड के अनुसार है।

सेटअप

  1. कंपोनेंट जोड़ें। किसी फ़्लो में कंपोनेंट पैनल खोलें और OpenAI बंडल से OpenAI जोड़ें। Langflow 1.13.2 यह बंडल मुख्य पैकेज के साथ ही इंस्टॉल करता है।

  2. Model Name. फ़ील्ड पर क्लिक करें और broadnet/glm-5.3 टाइप करें। यह कस्टम वैल्यू स्वीकार करता है, इसलिए आप लिस्ट के OpenAI मॉडल तक सीमित नहीं हैं।

  3. OpenAI API Key. अपनी BroadNet key पेस्ट करें, या वह ग्लोबल वेरिएबल चुनें जिसमें key रखी है।

  4. एडवांस्ड सेटिंग। कंपोनेंट के कंट्रोल खोलें और ये सेट करें:

    फ़ील्ड वैल्यू
    OpenAI API Base https://inference.broadnet.ai/v1
    Max Tokens 4000
  5. चलाकर देखें। एक Chat Input और Chat Output जोड़ें, Playground खोलें और एक मैसेज भेजें। जवाब आए, तो सेटिंग सही हैं।

Langflow की दो जाँचें जो BroadNet को रोक सकती हैं

Langflow 1.13 में SSRF सुरक्षा डिफ़ॉल्ट रूप से चालू है। दो नियम मायने रखते हैं:

  • सर्वर एनवायरनमेंट से आई key. अगर API key सर्वर के एनवायरनमेंट से आती है (जैसे किसी एनवायरनमेंट वेरिएबल से लोड हुआ ग्लोबल वेरिएबल), तो Langflow उसे किसी नॉन-डिफ़ॉल्ट एंडपॉइंट को तब तक नहीं भेजता, जब तक होस्ट allowlist में न हो। ऑपरेटर यह सेट करता है:

    export LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai

    कंपोनेंट में टाइप की गई key पर इसका असर नहीं पड़ता।

  • प्राइवेट एड्रेस. लूपबैक और प्राइवेट IP तब तक ब्लॉक रहते हैं, जब तक वे LANGFLOW_SSRF_ALLOWED_HOSTS में न हों। BroadNet एक पब्लिक HTTPS होस्ट है, इसलिए यह तभी मायने रखता है जब आप उसे किसी लोकल प्रॉक्सी से होकर भेजें।

OpenAI Compatible प्रोवाइडर क्यों नहीं?

Langflow 1.13 में Settings → Model Providers के अंदर एक OpenAI Compatible मॉडल प्रोवाइडर भी है। उसके डॉक्स कहते हैं कि वह एंडपॉइंट के /v1/models रूट से कनेक्शन जाँचता है और वहाँ मिले मॉडल दिखाता है। 16 नवंबर 2026 को हमने जाँचा, तब BroadNet का /v1/models सिर्फ़ broadnet/cohere-transcribe-arabic और broadnet/cohere-transcribe दिखा रहा था, इसलिए वहाँ चैट मॉडल चुने ही नहीं जा सकते। OpenAI कंपोनेंट में टाइप किया गया मॉडल नाम इस समस्या से बचाता है।

कौन-सा मॉडल चुनें

फ़्लो मॉडल
टूल वाला Agent कंपोनेंट broadnet/glm-5.3
इमेज या अरबी टेक्स्ट वाले फ़्लो, टूल के साथ broadnet/qwen3.8-27b
लंबे दस्तावेज़ वाले फ़्लो, फ़िक्स्ड कीमत वाला प्लान broadnet/deepseek-v4.1-flash
शुरुआती क्रेडिट पर Langflow आज़माना broadnet/gemma-4-26b-a4b (32,768 टोकन का कॉन्टेक्स्ट)

BroadNet के डॉक्स टूल और स्ट्रक्चर्ड आउटपुट सिर्फ़ GLM 5.3 और Qwen3.8 27B के लिए सूचीबद्ध करते हैं। कंपोनेंट का JSON Mode response_format: {"type": "json_object"} भेजता है; इसे इन्हीं दो मॉडल के साथ इस्तेमाल करें। हर मॉडल की कीमतें।

हमने इसे कैसे टेस्ट किया

हमने Langflow UI नहीं चलाया। 2026-11-15 को हमने lfx 1.13.2 और lfx-openai बंडल इंस्टॉल किए, जिसकी OpenAI कंपोनेंट फ़ाइल v1.13.2 के सोर्स से मेल खाती है, और Python में यह कंपोनेंट एक लोकल मॉक सर्वर के सामने बनाया, जो BroadNet के chat-completions ढाँचे में जवाब देता है। टाइप की गई key और लोकल मॉक के लिए LANGFLOW_SSRF_ALLOWED_HOSTS सेट होने पर अनुरोध /v1/chat/completions पर गया, मॉडल ID broadnet/glm-5.3 बिना बदलाव के, Bearer key, temperature: 0.1 और एक seed के साथ। Max Tokens की वैल्यू max_completion_tokens के रूप में भेजी गई; BroadNet का API रेफ़रंस max_tokens बताता है। सर्वर एनवायरनमेंट से कॉपी की गई key तब तक मना होती रही, जब तक हमने LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS भी सेट नहीं किया। हमारे पास BroadNet key नहीं थी, इसलिए हमने असली मॉडल आउटपुट टेस्ट नहीं किया।

समस्या का समाधान

  • “Refusing to send a server-provisioned API credential”. inference.broadnet.ai को LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS में जोड़ें, या key कंपोनेंट में टाइप करें।
  • 401. key ग़लत है, एक्सपायर हो गई है, या उसका अलाउंस ख़त्म हो गया है।
  • 404. OpenAI API Base के अंत में /v1 होना चाहिए, और Model Name, BroadNet के ID से हूबहू मिलना चाहिए। पेड मॉडल के लिए टॉप-अप चाहिए; $5 क्रेडिट पर सिर्फ़ broadnet/gemma-4-26b-a4b और दो Transcribe मॉडल चलते हैं।
  • ख़ाली जवाब. DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B पर रीज़निंग आउटपुट सीमा में गिनी जाती है। Max Tokens बढ़ाएँ। जवाब ख़ाली क्यों आते हैं।
  • 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है। एरर और रीट्राई देखें।

अक्सर पूछे जाने वाले सवाल

OpenAI Compatible प्रोवाइडर में GLM 5.3 या Qwen क्यों नहीं दिखते?

Langflow के डॉक्स के अनुसार यह प्रोवाइडर एंडपॉइंट के /v1/models रूट से मॉडल खोजता है। 16 नवंबर 2026 को हमने जाँचा, तब BroadNet का /v1/models सिर्फ़ दो ट्रांसक्रिप्शन मॉडल दिखा रहा था, इसलिए चैट मॉडल कभी नहीं आते। इसकी जगह OpenAI कंपोनेंट में मॉडल का नाम टाइप करें।

क्या मैं ऐसा मॉडल टाइप कर सकता हूँ जो OpenAI कंपोनेंट की लिस्ट में नहीं है?

हाँ। Model Name एक combobox है, और Langflow की इनपुट परिभाषाओं में इसका मतलब है कि यूज़र अपनी कस्टम वैल्यू डाल सकता है। पूरा BroadNet ID टाइप करें, जैसे broadnet/glm-5.3।

Langflow मेरी key BroadNet को भेजने से मना क्यों करता है?

Langflow 1.13 सर्वर एनवायरनमेंट से आई API key किसी कस्टम एंडपॉइंट को तब तक नहीं भेजता, जब तक ऑपरेटर उस होस्ट की अनुमति न दे। LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai सेट करें, या key सीधे कंपोनेंट में पेस्ट करें।

क्या Langflow का OpenAI कंपोनेंट Responses API इस्तेमाल करता है?

नहीं। यह LangChain का ChatOpenAI बनाता है, जो सामान्य अनुरोधों के लिए chat completions कॉल करता है। हमारे टेस्ट में इसने /v1/chat/completions कॉल किया।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें