डेवलपर
अपडेट किया गया
BroadNet Inference, https://inference.broadnet.ai/v1 पर OpenAI के अनुरोध ढाँचे इस्तेमाल करता है। कंसोल में API key बनाएँ, उसे एनवायरनमेंट वेरिएबल में रखें, और सही मॉडल ID के साथ /chat/completions या /audio/transcriptions पर अनुरोध भेजें। प्रोडक्शन ट्रैफ़िक ले जाने से पहले उस मॉडल के पैरामीटर, स्ट्रीमिंग, टूल, सीमाएँ और एरर जाँच लें।
पहला चैट अनुरोध कैसे भेजें?

- inference.broadnet.ai (अंग्रेज़ी में) पर साइन इन करें और एक इन्फ़रेंस API key बनाएँ। यह सिर्फ़ एक बार दिखती है; कंसोल केवल उसका हैश रखता है।
- OpenAI SDK इंस्टॉल करें और अपने शेल में API key सेट करें। API key अपने सर्वर पर रखें, ब्राउज़र कोड में कभी नहीं।
- अनुरोध भेजें। जवाब
choices[0].message.contentसे पढ़ें।
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'first_request.py
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)request.sh
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"broadnet/gemma-4-26b-a4b","messages":[{"role":"user","content":"Reply with one short sentence."}]}'उदाहरण में BroadNet Gemma 4 VL 26B इस्तेमाल हुआ है, जिसे US$5 का शुरुआती क्रेडिट कवर करता है। DeepSeek V4.1 Flash, GLM 5.3, और Qwen3.8 27B के लिए पहले टॉप-अप ज़रूरी है। सपोर्ट के लिए X-Request-ID रिस्पॉन्स हेडर सँभालकर रखें।
- 01Your appKey kept in an environment variable
- 02OpenAI SDKTwo settings change
base_urlapi_key - 03BroadNet InferenceOpenAI-compatible API
inference.broadnet.ai/v1POST /chat/completions - 04The model you nameSet in every request
broadnet/deepseek-v4.1-flashbroadnet/glm-5.3broadnet/qwen3.8-27bbroadnet/gemma-4-26b-a4byour choice
- 05ResponseFrom that model
You choose the model in each request. There is no automatic routing: the request runs on the model ID you sent.
Your app calls the OpenAI SDK with BroadNet’s base URL and your key. The request goes to BroadNet Inference with the model ID you wrote, and that model answers. Nothing picks or switches the model for you.
स्ट्रीमिंग
stream=true सेट करें और data: [DONE] तक Server-Sent Events पढ़ें। stream_options.include_usage के साथ, टोकन उपयोग आख़िरी चंक में आता है। अगर स्ट्रीम [DONE] से पहले ख़त्म हो जाए, तो जवाब को अधूरा मानें। BroadNet कहता है कि प्रोडक्शन में भरोसा करने से पहले हर मॉडल पर स्ट्रीमिंग जाँच लें।
curl -N https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'ऑडियो को ट्रांसक्राइब कैसे करें?
WAV या MP3, हर फ़ाइल 26,214,400 बाइट तक, /audio/transcriptions पर भेजें। language हमेशा सेट करें: इसके बिना अरबी लैटिन अक्षरों में लौट सकती है। अरबी के लिए language=ar इस्तेमाल करें। .ogg या .m4a को पहले बदलें: ffmpeg -i voice-note.ogg -ar 16000 -ac 1 voice-note.wav
transcribe.py
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
with open("recording.wav", "rb") as audio:
result = client.audio.transcriptions.create(
model="broadnet/cohere-transcribe-arabic",
file=audio,
language="ar",
)
print(result.text)transcribe.sh
curl https://inference.broadnet.ai/v1/audio/transcriptions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-F model=broadnet/cohere-transcribe-arabic \
-F language=ar \
-F file=@voice-note.wavरिस्पॉन्स JSON होता है, जिसमें ट्रांसक्रिप्ट text में होता है। अरबी या बहुभाषी मॉडल, और ऑडियो की लागत।
मैं कौन-से मॉडल ID इस्तेमाल कर सकता हूँ?
model में सही ID भेजें। चैट मॉडल खोजने के लिए /v1/models पर भरोसा न करें; यह सूची या रेफ़रंस (अंग्रेज़ी में) इस्तेमाल करें।
| मॉडल | ID | एंडपॉइंट | इनपुट | डॉक्यूमेंटेड | एक्सेस |
|---|---|---|---|---|---|
| DeepSeek V4.1 Flash | broadnet/deepseek-v4.1-flash | /chat/completions | टेक्स्ट + इमेज | रीज़निंग | टॉप-अप ज़रूरी |
| GLM 5.3 | broadnet/glm-5.3 | /chat/completions | टेक्स्ट | टूल, स्ट्रक्चर्ड आउटपुट, रीज़निंग | टॉप-अप ज़रूरी |
| Qwen3.8 27B | broadnet/qwen3.8-27b | /chat/completions | टेक्स्ट + इमेज | टूल, स्ट्रक्चर्ड आउटपुट, रीज़निंग | टॉप-अप ज़रूरी |
| BroadNet Gemma 4 VL 26B | broadnet/gemma-4-26b-a4b | /chat/completions | टेक्स्ट + इमेज | — | शुरुआती क्रेडिट |
| BroadNet Transcribe Arabic | broadnet/cohere-transcribe-arabic | /audio/transcriptions | अरबी ऑडियो | — | शुरुआती क्रेडिट |
| BroadNet Transcribe | broadnet/cohere-transcribe | /audio/transcriptions | ऑडियो, 14 भाषाएँ | — | शुरुआती क्रेडिट |
“डॉक्यूमेंटेड” में वे टूल, स्ट्रक्चर्ड आउटपुट और रीज़निंग हैं जिनका BroadNet के रेफ़रंस में हर मॉडल के लिए ज़िक्र है (2026-11-15 को जाँचा गया)। डैश का मतलब है कि रेफ़रंस में उनका ज़िक्र नहीं है; इसका मतलब यह नहीं कि वे मौजूद नहीं हैं।
किसी दूसरे OpenAI-कम्पैटिबल API से माइग्रेट करना: चेकलिस्ट
अनुरोध के ढाँचे जाने-पहचाने हैं, लेकिन मॉडल अलग-अलग होते हैं। चुने गए मॉडल के लिए हर बिंदु जाँचें, और ट्रैफ़िक बदलने से पहले टेस्ट करें।
- एंडपॉइंट। base URL को
https://inference.broadnet.ai/v1पर सेट करें। - API key। एनवायरनमेंट वेरिएबल से BroadNet इन्फ़रेंस API key इस्तेमाल करें। प्लान की key और उपयोग के अनुसार भुगतान वाली key अलग-अलग हैं।
- मॉडल ID। सही ID इस्तेमाल करें, जैसे
broadnet/gemma-4-26b-a4b। - पैरामीटर। जाँचें कि आप जो भी पैरामीटर भेजते हैं, वह उस मॉडल के लिए डॉक्यूमेंटेड है। जो सूची में नहीं हैं, उन्हें हटा दें।
- स्ट्रीमिंग। पक्का करें कि आपका क्लाइंट SSE को
[DONE]तक पढ़ता है और बीच में ख़त्म होने वाली स्ट्रीम को सँभालता है। - टूल और स्ट्रक्चर्ड आउटपुट। रेफ़रंस इन्हें GLM 5.3 और Qwen3.8 27B के लिए डॉक्यूमेंट करता है। किसी और मॉडल पर भरोसा करने से पहले टेस्ट करें।
- रीज़निंग। रीज़निंग आउटपुट बजट का कुछ हिस्सा इस्तेमाल कर सकती है।
max_tokensमें जगह छोड़ें; देखें रीज़निंग मॉडल से ख़ाली जवाब। - सीमाएँ। उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है। प्लान सेशन एक समय में एक अनुरोध चलाता है। Gemma की घंटे वाली key एक स्ट्रीम, प्रति मिनट 120 अनुरोध और प्रति मिनट 300,000 टोकन की अनुमति देती है।
- कॉन्टेक्स्ट। कॉन्टेक्स्ट में इनपुट और जवाब दोनों शामिल हैं। मॉडल की सीमा उसके मॉडल पेज पर देखें।
- एरर। नीचे दिए स्टेटस कोड को रीट्राई या सुधार वाली कार्रवाई से जोड़ें, और
X-Request-IDलॉग करें। - लागत। प्राइसिंग कैलकुलेटर से अनुमान लगाएँ। उपयोग के अनुसार भुगतान में इमेज इनपुट टोकन के रूप में गिनी जाती हैं।
किन एरर पर रीट्राई करना चाहिए?
| स्टेटस | मतलब | क्या करें |
|---|---|---|
| 400 / 422 | अमान्य अनुरोध या फ़ील्ड | अनुरोध ठीक करें; उसे जैसा है वैसा रीट्राई न करें |
| 401 | API key नहीं है, अमान्य है या एक्सपायर हो गई है, या अलाउंस ख़त्म हो गया है | API key और अकाउंट जाँचें |
| 402 | insufficient_balance | टॉप-अप करें, फिर रीट्राई करें |
| 413 | अनुरोध बाइट या टेक्स्ट सीमा से बड़ा है | कम भेजें, जैसे छोटी ऑडियो फ़ाइल |
| 429 | रेट, कॉन्करेंसी, टोकन-रेट या ख़र्च की सीमा | सीमित बैकऑफ़ के बाद रीट्राई करें |
| 500–504 | सर्वर की तरफ़ की समस्या | सीमित एक्सपोनेंशियल बैकऑफ़ के साथ रीट्राई करें |
रेफ़रंस की एरर तालिका (अंग्रेज़ी में) से सारांश, 2026-11-15 को जाँचा गया। रीट्राई के कोड उदाहरण।
पूरा डॉक्यूमेंटेशन और गाइड कहाँ हैं?

- डेवलपर रेफ़रंस (अंग्रेज़ी में)अनुरोध के ढाँचे, सीमाएँ, एरर और प्राइस फ़ीड। आधिकारिक स्रोत।
- इंटीग्रेशन (अंग्रेज़ी में)Aider, Cline, LangChain, n8n, LiteLLM और दूसरे OpenAI-कम्पैटिबल टूल की सेटिंग।
- गाइडSDK, स्ट्रीमिंग, रीट्राई, IP allow-list और अरबी स्पीच।
- Python SDK गाइडOpenAI Python SDK से इंस्टॉल, पहला अनुरोध और स्ट्रीमिंग।
- Node SDK गाइडयही सब JavaScript और TypeScript में, request ID के साथ।
- cURL क्विकस्टार्टहर अनुरोध शेल से।
- API key और IP allow-listAPI key को अपने सर्वर तक सीमित करें।
- API रिक्वेस्ट बिल्डर (अंग्रेज़ी में)ब्राउज़र में अनुरोध बनाएँ और कॉपी करें।
प्राइवेट एंडपॉइंट या सूची से बाहर का मॉडल चाहिए? BroadNet से संपर्क करें।
Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें