आपको अपने BroadNet Inference अकाउंट से एक इन्फ़रेंस key चाहिए। नए अकाउंट $5 क्रेडिट के साथ शुरू होते हैं, कार्ड की ज़रूरत नहीं। अगर आप Python इस्तेमाल करते हैं, तो Python SDK गाइड देखें।
1. इंस्टॉल करें और key सेट करें
मौजूदा openai पैकेज (7.x) को Node.js 22 या नया वर्शन चाहिए।
npm install openai
export BROADNET_API_KEY='paste-the-key-once'
2. पहला अनुरोध
first-request.mjs नाम से सेव करें और node first-request.mjs चलाएँ:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
const response = await client.chat.completions.create({
model: "broadnet/gemma-4-26b-a4b",
messages: [{ role: "user", content: "Reply with one short sentence." }],
});
console.log(response.choices[0].message.content);
broadnet/gemma-4-26b-a4b मुफ़्त क्रेडिट पर चलता है। अनलिमिटेड प्लान वाले मॉडल के लिए broadnet/deepseek-v4.1-flash इस्तेमाल करें और max_tokens को 1,000 या ज़्यादा रखें, क्योंकि इसकी रीज़निंग इसी लिमिट में गिनी जाती है। जवाब ख़ाली क्यों आते हैं।
3. टोकन स्ट्रीम करें
const stream = await client.chat.completions.create({
model: "broadnet/deepseek-v4.1-flash",
stream: true,
stream_options: { include_usage: true },
messages: [{ role: "user", content: "Count from one to three." }],
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
if (chunk.usage) console.log("\n", chunk.usage);
}
4. रिक्वेस्ट ID लॉग करें
const { data, request_id } = await client.chat.completions
.create({ model: "broadnet/gemma-4-26b-a4b", messages: [{ role: "user", content: "Hi" }] })
.withResponse();
console.log(request_id, data.choices[0].message.content);
SDK, request_id को x-request-id हेडर से पढ़ता है। पार्स किए गए रिस्पॉन्स में यह data._request_id के रूप में भी मिलता है।
इस ID को UTC समय, रूट और स्टेटस के साथ रखें, क्योंकि BroadNet सपोर्ट ये माँगता है। एरर कोड और कब रीट्राई करें।
समस्या निवारण
- 401. key ग़लत है, एक्सपायर हो चुकी है, या उपयोग के अनुसार भुगतान वाली सीमा ख़त्म हो गई है। अगर
BROADNET_API_KEYसेट नहीं है, तोapiKeyकी वैल्यूundefinedहोती है और SDK,OPENAI_API_KEYपर लौट जाता है, और अगर वह भी नहीं है तो एरर देता है। - 404. जाँचें कि
baseURLका अंत/v1पर है और आपchat.completionsकॉल कर रहे हैं,responsesनहीं। फिरbroadnet/प्रीफ़िक्स समेत मॉडल ID जाँचें। - नए अकाउंट पर पेड मॉडल फ़ेल होता है। $5 का शुरुआती क्रेडिट BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) और दोनों BroadNet Transcribe मॉडल को कवर करता है। बाक़ी चैट मॉडल, यानी DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B, इस्तेमाल करने के लिए टॉप-अप करें। - ख़ाली
content. रीज़निंगmax_tokensमें गिनी जाती है। इसे बढ़ाएँ या सेट ही न करें। जवाब ख़ाली क्यों आते हैं। - 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोधों की अनुमति देती है। SDK डिफ़ॉल्ट रूप से दो बार रीट्राई करता है; क्लाइंट पर
maxRetriesसे इसे बदलें। टूटी स्ट्रीम के लिए स्ट्रीमिंग chat completions देखें।
