BroadRouter
शुरू करें

Continue में BroadNet Inference (config.yaml और apiBase)

अपडेट किया गया

~/.continue/config.yaml में एक मॉडल जोड़ें: provider openai, model में broadnet/glm-5.3 जैसा BroadNet ID, apiBase में https://inference.broadnet.ai/v1 और apiKey में अपनी BroadNet key। Agent mode के लिए capabilities में tool_use जोड़ें, और defaultCompletionOptions के नीचे contextLength और maxTokens सेट करें।

Continue, VS Code और JetBrains के लिए एक ओपन-सोर्स AI असिस्टेंट है। यह OpenAI-कम्पैटिबल सर्वर तक अपने openai प्रोवाइडर और apiBase ओवरराइड से पहुँचता है, जैसा Continue के OpenAI प्रोवाइडर डॉक्स में दिखाया गया है। BroadNet Inference इसी पैटर्न में फ़िट होता है: अनुरोध का ढाँचा वही, बस base URL और मॉडल ID अलग।

सेटअप

  1. कंसोल से BroadNet key लें। API key देखें।
  2. लोकल कॉन्फ़िग खोलें। यह macOS और Linux पर ~/.continue/config.yaml और Windows पर %USERPROFILE%\.continue\config.yaml में होता है। IDE में चैट इनपुट के ऊपर configs ड्रॉपडाउन खोलें और Local Config के पास वाले गियर आइकन पर क्लिक करें।
  3. मॉडल जोड़ें।
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. सेव करें और मॉडल चुनें, Continue पैनल के मॉडल सिलेक्टर में।

इस फ़ाइल को वर्ज़न कंट्रोल से बाहर रखें, क्योंकि इसमें key है।

फ़ील्ड क्या करते हैं

  • provider: openai से Continue स्टैंडर्ड chat-completions अनुरोध भेजता है।
  • apiBase डिफ़ॉल्ट OpenAI पते की जगह लेता है। अंत में /chat/completions न जोड़ें; पाथ Continue ख़ुद जोड़ता है।
  • capabilities Continue की ऑटो-डिटेक्शन को ओवरराइड करता है। उसका रेफ़रंस कहता है कि Agent mode के लिए tool_use ज़रूरी है और image_input इमेज अपलोड चालू करता है। कस्टम ID के लिए Continue इन्हें पहचान नहीं पाता, इसलिए इन्हें ख़ुद सेट करें।
  • contextLength और maxTokens, defaultCompletionOptions के नीचे आते हैं। BroadNet पर रीज़निंग maxTokens में गिनी जाती है, इसलिए जगह छोड़ें।
  • roles का डिफ़ॉल्ट chat, edit, apply और summarize है। हमने autocomplete छोड़ दिया है: ये मॉडल जवाब से पहले रीज़निंग करते हैं, जो कीस्ट्रोक-स्तर की कम्प्लीशन से ज़्यादा चैट और एडिट के लिए ठीक है।

कौन-सा मॉडल चुनें

इस्तेमाल मॉडल क्यों
चैट और Agent mode broadnet/glm-5.3 टूल और स्ट्रक्चर्ड आउटपुट, 1M कॉन्टेक्स्ट
स्क्रीनशॉट, अरबी broadnet/qwen3.8-27b टूल और इमेज इनपुट, 262K कॉन्टेक्स्ट
फ़्लैट प्लान पर लंबी चैट broadnet/deepseek-v4.1-flash अनलिमिटेड प्लान, 1M कॉन्टेक्स्ट; टूल सूचीबद्ध नहीं

DeepSeek V4.1 Flash के लिए tool_use हटा दें, जब तक आपका अपना टेस्ट न दिखाए कि टूल कॉल काम करते हैं, और contextLength: 1048576 सेट करें। हर मॉडल की कीमत प्राइसिंग पेज पर है। GLM 5.3 मॉडल पेज पर उसकी सीमाएँ हैं।

समस्या का समाधान

  • 401. apiKey जाँचें। ग़लत, एक्सपायर या अलाउंस ख़त्म हो चुकी उपयोग के अनुसार भुगतान वाली key 401 लौटाती है।
  • पहले अनुरोध पर मॉडल एरर. model हूबहू BroadNet ID होना चाहिए, broadnet/ प्रीफ़िक्स समेत। GLM 5.3, Qwen3.8 27B और DeepSeek V4.1 Flash के लिए टॉप-अप चाहिए; $5 शुरुआती क्रेडिट BroadNet Gemma 4 VL 26B और दो Transcribe मॉडल को कवर करता है।
  • ख़ाली या अधूरे जवाब. maxTokens बढ़ाएँ। जवाब ख़ाली क्यों आते हैं।
  • 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोध की अनुमति देती है। Agent mode लगातार कई कॉल करता है; अपने वर्कफ़्लो में बैकऑफ़ जोड़ें या रन के बीच अंतर रखें। एरर और रीट्राई देखें।
  • प्लान key पर एक साथ कई एजेंट. हर अनलिमिटेड प्लान सेशन एक समय में एक अनुरोध चलाता है। हर पैरेलल एजेंट को उसका अपना सेशन दें।
  • ग़लत एंडपॉइंट. Continue के डॉक्स useLegacyCompletionsEndpoint और useResponsesApi का ज़िक्र करते हैं। legacy विकल्प सेट न करें; BroadNet /v1/chat/completions सर्व करता है। Continue डिफ़ॉल्ट रूप से /responses सिर्फ़ OpenAI के o-series और GPT-5 मॉडल के लिए इस्तेमाल करता है, इसलिए BroadNet ID बिना किसी अतिरिक्त सेटिंग के chat completions इस्तेमाल करते हैं।

अक्सर पूछे जाने वाले सवाल

Continue का config.yaml कहाँ होता है?

लोकल फ़ाइल macOS और Linux पर ~/.continue/config.yaml और Windows पर %USERPROFILE%\.continue\config.yaml है। आप इसे configs ड्रॉपडाउन में Local Config के पास वाले गियर आइकन से भी खोल सकते हैं।

मैं अपने BroadNet मॉडल के साथ Agent mode क्यों नहीं चला पा रहा?

Agent mode के लिए Continue को tool_use क्षमता चाहिए। मॉडल एंट्री में tool_use वाली capabilities जोड़ें, और ऐसा मॉडल चुनें जिसे BroadNet टूल के साथ सूचीबद्ध करता है, जैसे broadnet/glm-5.3।

Continue ख़ाली जवाब क्यों देता है?

जवाब शुरू होने से पहले ही रीज़निंग ने maxTokens ख़त्म कर दिए। defaultCompletionOptions के नीचे maxTokens को कुछ हज़ार तक बढ़ाएँ।

Continue के लिए config.json इस्तेमाल करूँ या config.yaml?

config.yaml इस्तेमाल करें। Continue के डॉक्स config.json और उसके रेफ़रंस को deprecated बताते हैं, और सभी मौजूदा उदाहरण schema v1 के साथ YAML इस्तेमाल करते हैं।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें