OpenAI-API-compatible پلگ اِن سے Dify میں BroadNet Inference شامل کریں
اپ ڈیٹ
Dify میں Integrations، Model Provider سے OpenAI-API-compatible پلگ اِن انسٹال کریں، پھر Add Model پر کلک کریں۔ ٹائپ LLM چنیں، broadnet/glm-5.3 جیسا BroadNet ماڈل ID، اپنی BroadNet کلید اور API Base URL https://inference.broadnet.ai/v1 درج کریں۔ Completion mode کو Chat، اصل کانٹیکسٹ سائز، ریزننگ کی گنجائش والی آؤٹ پٹ حد سیٹ کریں، اور Tool Call صرف GLM 5.3 یا Qwen3.8 27B کے لیے چنیں۔
Dify، LLM ایپس اور ورک فلوز بنانے کا ایک اوپن سورس پلیٹ فارم ہے۔ جن فراہم کنندگان کو Dify نام سے درج نہیں کرتا، وہ OpenAI-API-compatible ماڈل فراہم کنندہ پلگ اِن کے ذریعے شامل کیے جاتے ہیں، جسے Dify کی ٹیم (langgenius) شائع کرتی ہے۔ BroadNet Inference، https://inference.broadnet.ai/v1 پر معیاری chat completions فراہم کرتا ہے، اس لیے یہ اس میں فٹ ہوتا ہے۔ BroadRouter، BroadNet کی اپنی سائٹ ہے؛ نیچے فیلڈز کے نام پلگ اِن کے ورژن 0.0.83 سے لیے گئے ہیں۔
سیٹ اپ
کلید حاصل کریں۔ BroadNet کنسول میں استعمال کے مطابق ادائیگی والی کلید بنائیں۔
پلگ اِن انسٹال کریں۔ Dify میں Integrations > Model Provider پر جائیں، انسٹال کیے جا سکنے والے فراہم کنندگان میں OpenAI-API-compatible تلاش کریں (یا اسے Marketplace میں کھولیں)، اور انسٹال کریں۔ اس کے لیے آپ کا ورک اسپیس کا owner یا admin ہونا ضروری ہے۔
ماڈل شامل کریں۔ فراہم کنندہ کے کارڈ پر Add Model پر کلک کریں اور یہ بھریں:
فیلڈ
قدر
Model Type
LLM
Model Name
broadnet/glm-5.3
Model display name
GLM 5.3 (BroadNet)
API Key
آپ کی BroadNet کلید
API Base URL
https://inference.broadnet.ai/v1
Completion mode
Chat
Model context size
1048576
Upper bound for max tokens
16000
Function Call Type
Tool Call
Vision Support
Not Support
Structured Output
Support
API Type
Chat Completions API (/chat/completions)
Token parameter name
Use max_tokens
محفوظ کریں۔ ماڈل شامل کرنے سے پہلے Dify کریڈنشلز جانچتا ہے۔
ٹیسٹ کریں۔ ایک Chatbot ایپ بنائیں، ماڈل پکر میں GLM 5.3 (BroadNet) منتخب کریں اور پری ویو پین میں ایک پیغام بھیجیں۔
ہر BroadNet ماڈل کے لیے Add Model دہرائیں۔ ماڈل کا نام بالکل BroadNet کے ID سے ملنا چاہیے، broadnet/ پری فکس سمیت۔
ہر ماڈل کی ویلیوز
Model Name
کانٹیکسٹ سائز
Function Call Type
Vision Support
broadnet/glm-5.3
1048576
Tool Call
Not Support
broadnet/qwen3.8-27b
262144
Tool Call
Support
broadnet/deepseek-v4.1-flash
1048576
Not Support (ٹیسٹ نہیں کیا گیا)
Support
broadnet/gemma-4-26b-a4b
32768
Not Support
Support
یہ انتخاب کیوں:
Context size پلگ اِن میں ڈیفالٹ طور پر 4,096 ہے۔ اسے ویسا ہی چھوڑنے پر Dify میموری اور حاصل کردہ (retrieved) کانٹیکسٹ کو ماڈل کی گنجائش سے کہیں کم پر کاٹ دیتا ہے۔
Upper bound for max tokens کا ڈیفالٹ بھی 4,096 ہے۔ تین ماڈلز جواب سے پہلے ریزننگ کرتے ہیں، اور ریزننگ اسی حد میں گنی جاتی ہے، اس لیے انہیں جگہ دیں۔ 16,000 ہماری تجویز ہے، BroadNet کی حد نہیں۔
Token parameter name کو max_tokens پر رکھنا BroadNet کے API ریفرنس کے فیلڈ سے مطابقت رکھتا ہے۔ پلگ اِن کا ڈیفالٹ ماڈل کے نام سے اندازہ لگانا ہے۔
API Type کو Chat Completions پر ہی رہنے دیں۔ BroadNet، Responses API درج نہیں کرتا۔
ٹرانسکرپشن
یہ پلگ اِن speech-to-text ماڈلز بھی شامل کر سکتا ہے۔ BroadNet، /v1/audio/transcriptions فراہم کرتا ہے، عربی کے لیے broadnet/cohere-transcribe-arabic اور 14 زبانوں کے لیے broadnet/cohere-transcribe کے ساتھ۔ پلگ اِن کا README کہتا ہے کہ speech-to-text کے لیے وہ ورژن پاتھ خود جوڑتا ہے، اس لیے اس کی مثال /v1 کے بغیر ہوسٹ استعمال کرتی ہے (یہاں https://inference.broadnet.ai)۔ ہم نے یہ راستہ Dify کے ذریعے ٹیسٹ نہیں کیا؛ پہلے کسی چھوٹی WAV فائل سے جانچ لیں۔ عربی speech-to-text گائیڈ دیکھیں۔
مسائل کا حل
کریڈنشلز کی جانچ ناکام ہوتی ہے۔ کلید، API Base URL (LLMs کے لیے یہ /v1 پر ختم ہوتا ہے) اور ماڈل کا نام جانچیں۔ پیڈ ماڈلز کے لیے ٹاپ اپ چاہیے؛ $5 کریڈٹ صرف broadnet/gemma-4-26b-a4b اور دو Transcribe ماڈلز کا احاطہ کرتا ہے۔
ورک فلو میں خالی جوابات۔ ریزننگ ماڈل کے لیے LLM نوڈ کا max tokens بہت کم ہے۔ اسے بڑھائیں۔ جوابات خالی کیوں آتے ہیں۔
Agent نوڈ کبھی ٹولز کال نہیں کرتا۔ Function Call Type کو Tool Call پر رکھ کر GLM 5.3 یا Qwen3.8 27B استعمال کریں۔
لوڈ پر 429۔ استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستوں اور بیک وقت 4 جاری درخواستوں کی اجازت دیتی ہے۔ متوازی برانچز اور iteration نوڈز اس سے آگے جا سکتے ہیں؛ ان کی متوازیت کم کریں۔ ایررز اور دوبارہ کوشش دیکھیں۔
عام سوالات
کیا BroadNet، Dify Cloud اور سیلف ہوسٹڈ Dify دونوں پر چلتا ہے؟
ہاں۔ BroadNet Inference ایک عوامی HTTPS اینڈ پوائنٹ ہے، اس لیے Dify Cloud اس تک پہنچ سکتا ہے۔ Dify کی دستاویزات کہتی ہیں کہ ماڈل فراہم کنندگان صرف ورک اسپیس کے owner اور admin سنبھال سکتے ہیں، اور جو کلید آپ شامل کرتے ہیں وہ پوری ورک اسپیس میں کام کرتی ہے۔
کیا API Base URL میں /v1 ہونا چاہیے؟
ہاں، LLM ماڈلز کے لیے۔ پلگ اِن کی اپنی مثالیں چیٹ ماڈلز کے لیے /v1 پر ختم ہونے والا base URL استعمال کرتی ہیں، اور اس کا README خبردار کرتا ہے کہ کچھ دوسری ماڈل اقسام کے لیے وہ ورژن پاتھ خود جوڑتا ہے۔
کون سا Function Call Type چنوں؟
GLM 5.3 اور Qwen3.8 27B کے لیے Tool Call، جنہیں BroadNet ٹولز کے ساتھ درج کرتا ہے۔ DeepSeek V4.1 Flash کے لیے Not Support چنیں، جب تک آپ نے اس پر ٹول کالز خود ٹیسٹ نہ کی ہوں۔
کیا Dify کے AI کریڈٹس BroadNet ماڈلز پر لاگو ہوتے ہیں؟
نہیں۔ Dify کی دستاویزات کہتی ہیں کہ آپ کے اپنے اکاؤنٹ پر چلنے والے فراہم کنندگان پر AI کریڈٹس لاگو نہیں ہوتے۔ BroadNet اسی کلید پر بل بناتا ہے جو آپ درج کرتے ہیں۔