BroadRouter
शुरू करें

BroadNet Inference के साथ OpenAI Node.js SDK इस्तेमाल करें

अपडेट किया गया

openai npm पैकेज इंस्टॉल करें और क्लाइंट बनाते समय baseURL को https://inference.broadnet.ai/v1 और apiKey को अपनी BroadNet key पर सेट करें। आपका मौजूदा chat.completions कोड चलता रहता है; सिर्फ़ मॉडल ID बदलें, जैसे broadnet/deepseek-v4.1-flash। BroadNet, chat completions देता है, Responses API नहीं, इसलिए client.chat.completions.create ही इस्तेमाल करें।

आपको अपने BroadNet Inference अकाउंट से एक इन्फ़रेंस key चाहिए। नए अकाउंट $5 क्रेडिट के साथ शुरू होते हैं, कार्ड की ज़रूरत नहीं। अगर आप Python इस्तेमाल करते हैं, तो Python SDK गाइड देखें।

1. इंस्टॉल करें और key सेट करें

मौजूदा openai पैकेज (7.x) को Node.js 22 या नया वर्शन चाहिए।

npm install openai
export BROADNET_API_KEY='paste-the-key-once'

2. पहला अनुरोध

first-request.mjs नाम से सेव करें और node first-request.mjs चलाएँ:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

const response = await client.chat.completions.create({
  model: "broadnet/gemma-4-26b-a4b",
  messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);

broadnet/gemma-4-26b-a4b मुफ़्त क्रेडिट पर चलता है। अनलिमिटेड प्लान वाले मॉडल के लिए broadnet/deepseek-v4.1-flash इस्तेमाल करें और max_tokens को 1,000 या ज़्यादा रखें, क्योंकि इसकी रीज़निंग इसी लिमिट में गिनी जाती है। जवाब ख़ाली क्यों आते हैं।

3. टोकन स्ट्रीम करें

const stream = await client.chat.completions.create({
  model: "broadnet/deepseek-v4.1-flash",
  stream: true,
  stream_options: { include_usage: true },
  messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
  if (chunk.usage) console.log("\n", chunk.usage);
}

4. रिक्वेस्ट ID लॉग करें

const { data, request_id } = await client.chat.completions
  .create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
  .withResponse();
console.log(request_id, data.choices[0].message.content);

SDK, request_id को x-request-id हेडर से पढ़ता है। पार्स किए गए रिस्पॉन्स में यह data._request_id के रूप में भी मिलता है।

इस ID को UTC समय, रूट और स्टेटस के साथ रखें, क्योंकि BroadNet सपोर्ट ये माँगता है। एरर कोड और कब रीट्राई करें।

समस्या निवारण

  • 401. key ग़लत है, एक्सपायर हो चुकी है, या उपयोग के अनुसार भुगतान वाली सीमा ख़त्म हो गई है। अगर BROADNET_API_KEY सेट नहीं है, तो apiKey की वैल्यू undefined होती है और SDK, OPENAI_API_KEY पर लौट जाता है, और अगर वह भी नहीं है तो एरर देता है।
  • 404. जाँचें कि baseURL का अंत /v1 पर है और आप chat.completions कॉल कर रहे हैं, responses नहीं। फिर broadnet/ प्रीफ़िक्स समेत मॉडल ID जाँचें।
  • नए अकाउंट पर पेड मॉडल फ़ेल होता है। $5 का शुरुआती क्रेडिट BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) और दोनों BroadNet Transcribe मॉडल को कवर करता है। बाक़ी चैट मॉडल, यानी DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B, इस्तेमाल करने के लिए टॉप-अप करें।
  • ख़ाली content. रीज़निंग max_tokens में गिनी जाती है। इसे बढ़ाएँ या सेट ही न करें। जवाब ख़ाली क्यों आते हैं।
  • 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोधों की अनुमति देती है। SDK डिफ़ॉल्ट रूप से दो बार रीट्राई करता है; क्लाइंट पर maxRetries से इसे बदलें। टूटी स्ट्रीम के लिए स्ट्रीमिंग chat completions देखें।

अक्सर पूछे जाने वाले सवाल

क्या Node में BroadNet का base URL एनवायरनमेंट वेरिएबल से सेट कर सकते हैं?

हाँ। baseURL पास न करने पर SDK, OPENAI_BASE_URL पढ़ता है, और apiKey पास न करने पर OPENAI_API_KEY। दोनों को साफ़-साफ़ पास करने से BroadNet की key ग़लती से OpenAI को, या उलटा, भेजे जाने का ख़तरा नहीं रहता।

क्या client.responses.create, BroadNet के साथ चलता है?

नहीं। BroadNet के डॉक्स में सिर्फ़ chat completions और audio transcriptions हैं। चैट के लिए client.chat.completions.create इस्तेमाल करें।

openai पैकेज को Node.js का कौन-सा वर्शन चाहिए?

मौजूदा 7.x रिलीज़ Node.js 22 या नया वर्शन माँगती है। Deno, Bun, Cloudflare Workers और Vercel Edge भी सपोर्टेड हैं।

क्या मैं Node SDK से ब्राउज़र में BroadNet कॉल कर सकता हूँ?

ऐसा न करें। SDK ब्राउज़र में इस्तेमाल तब तक रोकता है जब तक आप dangerouslyAllowBrowser सेट न करें, क्योंकि key हर विज़िटर तक पहुँच जाएगी। BroadNet को अपने सर्वर से कॉल करें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें