BroadRouter
शुरू करें

डेवलपर

अपडेट किया गया

BroadNet Inference, https://inference.broadnet.ai/v1 पर OpenAI के अनुरोध ढाँचे इस्तेमाल करता है। कंसोल में API key बनाएँ, उसे एनवायरनमेंट वेरिएबल में रखें, और सही मॉडल ID के साथ /chat/completions या /audio/transcriptions पर अनुरोध भेजें। प्रोडक्शन ट्रैफ़िक ले जाने से पहले उस मॉडल के पैरामीटर, स्ट्रीमिंग, टूल, सीमाएँ और एरर जाँच लें।

पहला चैट अनुरोध कैसे भेजें?

  1. inference.broadnet.ai (अंग्रेज़ी में) पर साइन इन करें और एक इन्फ़रेंस API key बनाएँ। यह सिर्फ़ एक बार दिखती है; कंसोल केवल उसका हैश रखता है।
  2. OpenAI SDK इंस्टॉल करें और अपने शेल में API key सेट करें। API key अपने सर्वर पर रखें, ब्राउज़र कोड में कभी नहीं।
  3. अनुरोध भेजें। जवाब choices[0].message.content से पढ़ें।

setup

python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'

first_request.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)

उदाहरण में BroadNet Gemma 4 VL 26B इस्तेमाल हुआ है, जिसे US$5 का शुरुआती क्रेडिट कवर करता है। DeepSeek V4.1 Flash, GLM 5.3, और Qwen3.8 27B के लिए पहले टॉप-अप ज़रूरी है। सपोर्ट के लिए X-Request-ID रिस्पॉन्स हेडर सँभालकर रखें।

How a request reaches a model
  1. 01Your appKey kept in an environment variable
  2. 02OpenAI SDKTwo settings change

    base_url api_key

  3. 03BroadNet InferenceOpenAI-compatible APIinference.broadnet.ai/v1POST /chat/completions
  4. 04The model you nameSet in every request
    • broadnet/deepseek-v4.1-flash
    • broadnet/glm-5.3
    • broadnet/qwen3.8-27b
    • broadnet/gemma-4-26b-a4byour choice
  5. 05ResponseFrom that model

You choose the model in each request. There is no automatic routing: the request runs on the model ID you sent.

Your app calls the OpenAI SDK with BroadNet’s base URL and your key. The request goes to BroadNet Inference with the model ID you wrote, and that model answers. Nothing picks or switches the model for you.

स्ट्रीमिंग

stream=true सेट करें और data: [DONE] तक Server-Sent Events पढ़ें। stream_options.include_usage के साथ, टोकन उपयोग आख़िरी चंक में आता है। अगर स्ट्रीम [DONE] से पहले ख़त्म हो जाए, तो जवाब को अधूरा मानें। BroadNet कहता है कि प्रोडक्शन में भरोसा करने से पहले हर मॉडल पर स्ट्रीमिंग जाँच लें।

stream.sh

curl -N https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'

ऑडियो को ट्रांसक्राइब कैसे करें?

WAV या MP3, हर फ़ाइल 26,214,400 बाइट तक, /audio/transcriptions पर भेजें। language हमेशा सेट करें: इसके बिना अरबी लैटिन अक्षरों में लौट सकती है। अरबी के लिए language=ar इस्तेमाल करें। .ogg या .m4a को पहले बदलें: ffmpeg -i voice-note.ogg -ar 16000 -ac 1 voice-note.wav

transcribe.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
with open("recording.wav", "rb") as audio:
    result = client.audio.transcriptions.create(
        model="broadnet/cohere-transcribe-arabic",
        file=audio,
        language="ar",
    )
print(result.text)

रिस्पॉन्स JSON होता है, जिसमें ट्रांसक्रिप्ट text में होता है। अरबी या बहुभाषी मॉडल, और ऑडियो की लागत।

मैं कौन-से मॉडल ID इस्तेमाल कर सकता हूँ?

model में सही ID भेजें। चैट मॉडल खोजने के लिए /v1/models पर भरोसा न करें; यह सूची या रेफ़रंस (अंग्रेज़ी में) इस्तेमाल करें।

मॉडलIDएंडपॉइंटइनपुटडॉक्यूमेंटेडएक्सेस
DeepSeek V4.1 Flashbroadnet/deepseek-v4.1-flash/chat/completionsटेक्स्ट + इमेजरीज़निंगटॉप-अप ज़रूरी
GLM 5.3broadnet/glm-5.3/chat/completionsटेक्स्टटूल, स्ट्रक्चर्ड आउटपुट, रीज़निंगटॉप-अप ज़रूरी
Qwen3.8 27Bbroadnet/qwen3.8-27b/chat/completionsटेक्स्ट + इमेजटूल, स्ट्रक्चर्ड आउटपुट, रीज़निंगटॉप-अप ज़रूरी
BroadNet Gemma 4 VL 26Bbroadnet/gemma-4-26b-a4b/chat/completionsटेक्स्ट + इमेज—शुरुआती क्रेडिट
BroadNet Transcribe Arabicbroadnet/cohere-transcribe-arabic/audio/transcriptionsअरबी ऑडियो—शुरुआती क्रेडिट
BroadNet Transcribebroadnet/cohere-transcribe/audio/transcriptionsऑडियो, 14 भाषाएँ—शुरुआती क्रेडिट

“डॉक्यूमेंटेड” में वे टूल, स्ट्रक्चर्ड आउटपुट और रीज़निंग हैं जिनका BroadNet के रेफ़रंस में हर मॉडल के लिए ज़िक्र है (2026-11-15 को जाँचा गया)। डैश का मतलब है कि रेफ़रंस में उनका ज़िक्र नहीं है; इसका मतलब यह नहीं कि वे मौजूद नहीं हैं।

किसी दूसरे OpenAI-कम्पैटिबल API से माइग्रेट करना: चेकलिस्ट

अनुरोध के ढाँचे जाने-पहचाने हैं, लेकिन मॉडल अलग-अलग होते हैं। चुने गए मॉडल के लिए हर बिंदु जाँचें, और ट्रैफ़िक बदलने से पहले टेस्ट करें।

  1. एंडपॉइंट। base URL को https://inference.broadnet.ai/v1 पर सेट करें।
  2. API key। एनवायरनमेंट वेरिएबल से BroadNet इन्फ़रेंस API key इस्तेमाल करें। प्लान की key और उपयोग के अनुसार भुगतान वाली key अलग-अलग हैं।
  3. मॉडल ID। सही ID इस्तेमाल करें, जैसे broadnet/gemma-4-26b-a4b।
  4. पैरामीटर। जाँचें कि आप जो भी पैरामीटर भेजते हैं, वह उस मॉडल के लिए डॉक्यूमेंटेड है। जो सूची में नहीं हैं, उन्हें हटा दें।
  5. स्ट्रीमिंग। पक्का करें कि आपका क्लाइंट SSE को [DONE] तक पढ़ता है और बीच में ख़त्म होने वाली स्ट्रीम को सँभालता है।
  6. टूल और स्ट्रक्चर्ड आउटपुट। रेफ़रंस इन्हें GLM 5.3 और Qwen3.8 27B के लिए डॉक्यूमेंट करता है। किसी और मॉडल पर भरोसा करने से पहले टेस्ट करें।
  7. रीज़निंग। रीज़निंग आउटपुट बजट का कुछ हिस्सा इस्तेमाल कर सकती है। max_tokens में जगह छोड़ें; देखें रीज़निंग मॉडल से ख़ाली जवाब।
  8. सीमाएँ। उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है। प्लान सेशन एक समय में एक अनुरोध चलाता है। Gemma की घंटे वाली key एक स्ट्रीम, प्रति मिनट 120 अनुरोध और प्रति मिनट 300,000 टोकन की अनुमति देती है।
  9. कॉन्टेक्स्ट। कॉन्टेक्स्ट में इनपुट और जवाब दोनों शामिल हैं। मॉडल की सीमा उसके मॉडल पेज पर देखें।
  10. एरर। नीचे दिए स्टेटस कोड को रीट्राई या सुधार वाली कार्रवाई से जोड़ें, और X-Request-ID लॉग करें।
  11. लागत। प्राइसिंग कैलकुलेटर से अनुमान लगाएँ। उपयोग के अनुसार भुगतान में इमेज इनपुट टोकन के रूप में गिनी जाती हैं।

किन एरर पर रीट्राई करना चाहिए?

स्टेटसमतलबक्या करें
400 / 422अमान्य अनुरोध या फ़ील्डअनुरोध ठीक करें; उसे जैसा है वैसा रीट्राई न करें
401API key नहीं है, अमान्य है या एक्सपायर हो गई है, या अलाउंस ख़त्म हो गया हैAPI key और अकाउंट जाँचें
402insufficient_balanceटॉप-अप करें, फिर रीट्राई करें
413अनुरोध बाइट या टेक्स्ट सीमा से बड़ा हैकम भेजें, जैसे छोटी ऑडियो फ़ाइल
429रेट, कॉन्करेंसी, टोकन-रेट या ख़र्च की सीमासीमित बैकऑफ़ के बाद रीट्राई करें
500–504सर्वर की तरफ़ की समस्यासीमित एक्सपोनेंशियल बैकऑफ़ के साथ रीट्राई करें

रेफ़रंस की एरर तालिका (अंग्रेज़ी में) से सारांश, 2026-11-15 को जाँचा गया। रीट्राई के कोड उदाहरण।

पूरा डॉक्यूमेंटेशन और गाइड कहाँ हैं?

प्राइवेट एंडपॉइंट या सूची से बाहर का मॉडल चाहिए? BroadNet से संपर्क करें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें