BroadRouter
شروع کریں

LibreChat میں BroadNet Inference بطور کسٹم اینڈ پوائنٹ شامل کریں

اپ ڈیٹ

librechat.yaml میں endpoints.custom کے نیچے ایک اندراج شامل کریں: name میں BroadNet، apiKey میں BROADNET_API_KEY جیسا انوائرنمنٹ ریفرنس، baseURL میں https://inference.broadnet.ai/v1، اور models.default میں broadnet/glm-5.3 جیسے BroadNet IDs۔ کلید .env میں رکھیں، Docker پر فائل کو کنٹینر میں ماؤنٹ کریں اور LibreChat ری اسٹارٹ کریں۔ LibreChat، base URL کے آگے /chat/completions خود لگاتا ہے۔

LibreChat ایک اوپن سورس چیٹ ایپ ہے جو OpenAI-compatible سروسز کو کسٹم اینڈ پوائنٹس کے طور پر سپورٹ کرتی ہے۔ آپ انہیں librechat.yaml میں بیان کرتے ہیں، کلیدیں .env میں رکھتے ہیں، اور Docker پر YAML فائل کو کنٹینر میں ماؤنٹ کرتے ہیں۔ BroadRouter، BroadNet کی اپنی سائٹ ہے؛ یہ مراحل LibreChat کی کسٹم اینڈ پوائنٹ گائیڈ کے مطابق ہیں۔

سیٹ اپ

  1. librechat.yaml ماؤنٹ کریں (صرف Docker پر)۔ docker-compose.override.yml.example کو docker-compose.override.yml میں کاپی کریں اور یقینی بنائیں کہ volume فعال ہے:
services:
  api:
    volumes:
      - type: bind
        source: ./librechat.yaml
        target: /app/librechat.yaml
  1. پروجیکٹ روٹ کی librechat.yaml میں endpoints.custom کے نیچے اینڈ پوائنٹ شامل کریں:
endpoints:
  custom:
    - name: 'BroadNet'
      apiKey: '${BROADNET_API_KEY}'
      baseURL: 'https://inference.broadnet.ai/v1'
      models:
        default:
          - 'broadnet/glm-5.3'
          - 'broadnet/qwen3.8-27b'
          - 'broadnet/deepseek-v4.1-flash'
          - 'broadnet/gemma-4-26b-a4b'
        fetch: false
      titleConvo: true
      titleModel: 'broadnet/gemma-4-26b-a4b'
      modelDisplayLabel: 'BroadNet'

آپ کی فائل میں پہلے سے موجود ٹاپ لیول keys، جیسے version، رہنے دیں۔

  1. .env میں کلید سیٹ کریں:
BROADNET_API_KEY=your-broadnet-key
  1. LibreChat ری اسٹارٹ کریں۔ Docker پر: docker compose down && docker compose up -d۔ لوکل انسٹال پر npm run backend سے ری اسٹارٹ کریں۔ اس کے بعد BroadNet اینڈ پوائنٹ سلیکٹر میں نظر آتا ہے۔

فیلڈز کے بارے میں

  • baseURL۔ LibreChat /chat/completions خود لگاتا ہے، اس لیے اوپر والا /v1 روٹ استعمال کریں۔ directEndpoint: true سیٹ نہ کریں؛ وہ آپشن اس baseURL کے لیے ہے جو پہلے سے پورا completions URL ہو۔
  • fetch: false۔ یہ LibreChat کا ڈیفالٹ ہے؛ ہم نے اسے صرف یہ انتخاب واضح دکھانے کے لیے لکھا ہے۔ BroadNet کی دستاویزات GET /v1/models کو مانیٹرز کے لیے پبلک کیٹلاگ میٹا ڈیٹا بتاتی ہیں، اس لیے default میں ماڈلز لکھنا زیادہ قابلِ اعتماد ہے۔
  • titleModel۔ LibreChat ہر چیٹ کا عنوان ایک اضافی درخواست سے لکھتا ہے۔ ریزننگ کے بغیر ایک چھوٹا، سستا ماڈل یہ کال مختصر رکھتا ہے۔ BroadNet کی دستاویزات Gemma 4 VL 26B کے لیے ریزننگ درج نہیں کرتیں۔
  • user_provided۔ اگر ہر صارف کو UI میں اپنی BroadNet کلید ڈالنی ہو تو apiKey: 'user_provided' سیٹ کریں۔ LibreChat ہر صارف کی کلید انکرپٹ کر کے رکھتا ہے اور پہلی بار اینڈ پوائنٹ چننے پر مانگتا ہے۔
  • منفرد نام۔ اسی نام کا دوسرا اینڈ پوائنٹ (چھوٹے بڑے حروف کا فرق نظر انداز کر کے) پہلے والے کی جگہ خاموشی سے لے لیتا ہے۔ اگر BroadNet نام کا اندراج پہلے سے ہے تو کسی ایک کا نام بدلیں۔
  • کلید براہِ راست نہ لکھیں۔ LibreChat کی دستاویزات librechat.yaml میں کلید ٹائپ کرنے کی بجائے ${VAR} ریفرنس کا مشورہ دیتی ہیں، کیونکہ ورنہ کلید فائل میں سادہ متن کی صورت میں پڑی رہے گی۔

کون سا ماڈل چنیں

استعمال ماڈل
ڈیفالٹ چیٹ، ٹولز، JSON GLM 5.3
تصاویر اور عربی Qwen3.8 27B
لمبی دستاویزات، 1M کانٹیکسٹ DeepSeek V4.1 Flash
عنوانات اور فوری جوابات BroadNet Gemma 4 VL 26B

ان ماڈلز میں سے $5 کے ابتدائی کریڈٹ پر صرف Gemma 4 VL 26B چلتا ہے، اور یہ کریڈٹ دونوں Transcribe ماڈلز کا بھی احاطہ کرتا ہے۔ قیمتوں کا موازنہ پرائسنگ صفحے پر کریں۔

مسائل کا حل

  • اینڈ پوائنٹ نظر نہیں آتا۔ جانچیں کہ name، baseURL، apiKey اور models.default کی اسپیلنگ درست ہے اور وہ endpoints.custom کے اندر صحیح انڈینٹ میں ہیں۔ LibreChat نامکمل اندراجات بغیر لاگ لائن کے چھوڑ دیتا ہے۔ Docker پر یقینی بنائیں کہ docker-compose.override.yml میں bind mount ان کمنٹ ہے۔
  • “Missing API Key for BroadNet”۔ BROADNET_API_KEY، .env میں نہیں ہے، یا LibreChat ری اسٹارٹ نہیں ہوا۔ اینڈ پوائنٹ پھر بھی نظر آتا ہے؛ ایرر صرف پیغام بھیجنے پر آتا ہے۔
  • پرووائیڈر سے 401۔ کلید غلط ہے، اس کی میعاد ختم ہو گئی ہے، یا استعمال کے مطابق ادائیگی والا الاؤنس ختم ہو گیا ہے۔
  • ماڈل ایررز۔ ہر ID، broadnet/ پری فکس کے ساتھ، BroadNet کے ID سے بالکل ملنا چاہیے۔ GLM 5.3، Qwen3.8 27B اور DeepSeek V4.1 Flash کے لیے ٹاپ اپ چاہیے۔
  • خالی جوابات۔ DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B پہلے ریزننگ کرتے ہیں، اور ریزننگ max_tokens میں گنی جاتی ہے۔ اگر آپ نے LibreChat کے پیرامیٹرز میں کم max output سیٹ کیا ہے تو اسے بڑھائیں۔ جوابات خالی کیوں آتے ہیں۔
  • کئی صارفین کے ساتھ 429۔ استعمال کے مطابق ادائیگی والی ایک کلید فی منٹ 30 درخواستوں اور بیک وقت 4 درخواستوں کی اجازت دیتی ہے، جو اینڈ پوائنٹ کے تمام صارفین میں بٹتی ہیں۔ عنوان والی درخواستیں بھی گنی جاتی ہیں۔ user_provided کلیدوں سے لوڈ بٹ جاتا ہے۔ ایررز اور دوبارہ کوشش دیکھیں۔
  • پلان کلیدیں۔ لامحدود پلان سیشن ایک وقت میں ایک درخواست چلاتا ہے اور شیئر نہیں کیا جا سکتا، اس لیے وہ کئی صارفین والے LibreChat کے لیے موزوں نہیں۔

عام سوالات

میرا BroadNet اینڈ پوائنٹ LibreChat میں کیوں نظر نہیں آتا؟

اگر name، baseURL، apiKey یا models.default غائب ہو یا اس کی اسپیلنگ غلط ہو تو LibreChat کسٹم اینڈ پوائنٹ کو بغیر کسی ایرر یا لاگ لائن کے چھوڑ دیتا ہے۔ Docker پر یہ بھی دیکھیں کہ librechat.yaml، /app/librechat.yaml پر ماؤنٹ ہے اور آپ نے ری اسٹارٹ کیا ہے۔

کیا ہر صارف اپنی BroadNet کلید لا سکتا ہے؟

ہاں۔ apiKey کو user_provided پر سیٹ کریں۔ پھر LibreChat ہر صارف سے پہلی بار اینڈ پوائنٹ چننے پر کلید مانگتا ہے اور اسے انکرپٹ کر کے محفوظ کرتا ہے۔

LibreChat "Missing API Key for BroadNet" کیوں دکھاتا ہے؟

apiKey میں جس ویری ایبل کا ریفرنس ہے وہ .env میں سیٹ نہیں۔ اینڈ پوائنٹ پھر بھی سلیکٹر میں نظر آتا ہے، اور ایرر صرف پیغام بھیجنے پر آتا ہے۔ ویری ایبل شامل کریں، پھر LibreChat ری اسٹارٹ کریں۔

کیا LibreChat کے baseURL میں /chat/completions ہونا چاہیے؟

نہیں۔ LibreChat ڈیفالٹ طور پر baseURL کے آگے /chat/completions لگاتا ہے۔ https://inference.broadnet.ai/v1 استعمال کریں۔ directEndpoint کو true صرف تب کریں جب آپ کا ڈالا گیا URL پہلے سے پورا completions اینڈ پوائنٹ ہو۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں