BroadRouter

टेक्स्ट, स्पीच या vision? पहले टास्क देखें

BroadNet Inference टीम · 7 मिनट में पढ़ें · प्रकाशित

अपने इनपुट और आउटपुट से शुरू करें। टेक्स्ट अंदर, टेक्स्ट बाहर का मतलब चैट है। फ़ोटो या स्कैन अंदर, टेक्स्ट बाहर का मतलब इमेज लेने वाले मॉडल पर इमेज के साथ चैट है। रिकॉर्ड की गई आवाज़ अंदर, टेक्स्ट बाहर का मतलब ट्रांसक्रिप्शन है; आवाज़ से जवाब का मतलब पहले ट्रांसक्रिप्शन, फिर चैट। BroadNet text-to-speech, इमेज जनरेशन या embeddings नहीं देता।

“कौन-सा मॉडल इस्तेमाल करें?” दूसरा सवाल है। पहला सवाल है “अंदर क्या जाता है, और बाहर क्या आना चाहिए?” इनवॉइस की फ़ोटो, ग्राहक का वॉइस नोट और टाइप किया गया सवाल, हर एक अलग तरह के endpoint पर जाता है, और हर endpoint के अपने मॉडल, सीमाएँ और विफलता के तरीक़े हैं। पहले टास्क चुनें, तो मॉडल की लिस्ट दो-तीन तक सिमट जाती है।

यह गाइड आम टास्क को इनपुट प्रकारों से जोड़ती है, फिर हर एक के लिए वह बताती है जो BroadNet Inference डॉक्यूमेंट करता है। BroadRouter, BroadNet की अपनी साइट है; नीचे के मॉडल तथ्य BroadNet के pricing फ़ीड और API रेफ़रंस से हैं, 15 नवंबर 2026 को जाँचे गए।

आपके टास्क को कौन-सा इनपुट प्रकार चाहिए?

आपका टास्क इनपुट आउटपुट Endpoint BroadNet मॉडल
टेक्स्ट का जवाब, सारांश, वर्गीकरण या अनुवाद टेक्स्ट टेक्स्ट Chat completions चारों चैट मॉडल में से कोई भी
अपने functions या tools कॉल करना टेक्स्ट Tool calls Chat completions GLM 5.3, Qwen3.8 27B (डॉक्यूमेंटेड)
फ़ोटो, स्कैन, स्क्रीनशॉट या फ़ॉर्म पढ़ना इमेज + टेक्स्ट टेक्स्ट या JSON इमेज के साथ chat completions DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B
रिकॉर्डिंग या वॉइस नोट को टेक्स्ट में बदलना ऑडियो फ़ाइल टेक्स्ट Audio transcriptions Transcribe Arabic, Transcribe (14 भाषाएँ)
कॉल का सारांश या वॉइस नोट का जवाब ऑडियो फ़ाइल टेक्स्ट ट्रांसक्रिप्शन, फिर चैट हर एक का एक मॉडल
जवाब बोलकर सुनाना टेक्स्ट ऑडियो Text-to-speech उपलब्ध नहीं
लाइव वॉइस बातचीत ऑडियो स्ट्रीम ऑडियो Realtime voice उपलब्ध नहीं
इमेज बनाना टेक्स्ट इमेज इमेज जनरेशन उपलब्ध नहीं
दस्तावेज़ों पर semantic search टेक्स्ट Vectors Embeddings उपलब्ध नहीं

इस टेबल में “vision” का मतलब इमेज समझना है: मॉडल आपकी भेजी इमेज पढ़ता है। इसका मतलब इमेज बनाना नहीं है। vision language model वाली glossary एंट्री यह फ़र्क़ समझाती है।

चैट और ट्रांसक्रिप्शन में क्या फ़र्क़ है?

ये अलग endpoint हैं, जिनके अनुरोध का ढाँचा, बिलिंग की इकाई और मॉडल अलग हैं।

चैट (POST /v1/chat/completions) JSON में मैसेज की लिस्ट लेता है और टेक्स्ट लौटाता है। इसका बिल प्रति टोकन बनता है, इनपुट और आउटपुट अलग-अलग, और हर मॉडल की एक कॉन्टेक्स्ट विंडो होती है जिसमें प्रॉम्प्ट और जवाब साथ आते हैं। BroadNet पर चार में से तीन चैट मॉडल जवाब देने से पहले reasoning करते हैं, और वह reasoning max_tokens में गिनी जाती है, इसलिए जगह छोड़ें (reasoning टोकन और ख़ाली जवाब)।

ट्रांसक्रिप्शन (POST /v1/audio/transcriptions) multipart upload के रूप में ऑडियो फ़ाइल लेता है और ट्रांसक्रिप्ट लौटाता है। इसका बिल ऑडियो के प्रति मिनट बनता है। BroadNet के docs हर फ़ाइल के लिए 26,214,400 bytes तक की WAV या MP3 बताते हैं, और कहते हैं कि language हमेशा भेजें, क्योंकि वरना अरबी लैटिन अक्षरों में लिप्यंतरित होकर लौट सकती है।

मॉडल भाषाएँ कीमत
BroadNet Transcribe Arabic अरबी: खाड़ी, मिस्री, लेवेंटाइन, मग़रिबी और Modern Standard, BroadNet के अनुसार $0.0042 प्रति मिनट (लगभग $0.25 प्रति घंटा)
BroadNet Transcribe 14, जिनमें अंग्रेज़ी, स्पेनिश, फ़्रेंच, मंदारिन और अरबी शामिल $0.002 प्रति मिनट (लगभग $0.12 प्रति घंटा)

BroadNet पर चैट मॉडल ऑडियो नहीं लेता, और ट्रांसक्रिप्शन मॉडल सवालों के जवाब नहीं देता। टेक्स्ट में जवाब देने वाला वॉइस असिस्टेंट दो कॉल है: ट्रांसक्राइब, फिर चैट। रिकॉर्डिंग से अरबी मीटिंग मिनट्स ठीक यही chain बनाता है।

कौन-से मॉडल इमेज लेते हैं?

वे जिनकी फ़ीड एंट्री में modalities में image लिखा है। 15 नवंबर 2026 को:

मॉडल इनपुट कॉन्टेक्स्ट इनपुट / आउटपुट प्रति 1M टोकन उपलब्धता
DeepSeek V4.1 Flash टेक्स्ट, इमेज 1,048,576 $0.175 / $0.52 टॉप-अप ज़रूरी
Qwen3.8 27B टेक्स्ट, इमेज 262,144 $0.175 / $2.17 टॉप-अप ज़रूरी
Gemma 4 VL 26B टेक्स्ट, इमेज 32,768 $0.10 / $0.22 $5 का शुरुआती क्रेडिट
GLM 5.3 सिर्फ़ टेक्स्ट 1,048,576 $0.78 / $3.46 टॉप-अप ज़रूरी

इमेज को मैसेज कंटेंट के अंदर सही MIME type के साथ data: URL के रूप में भेजें। BroadNet के docs कहते हैं कि vision “only where the model row explicitly says images or vision” (अनुवाद: सिर्फ़ वहीं, जहाँ मॉडल की पंक्ति में साफ़ तौर पर images या vision लिखा हो) उपलब्ध है। docs स्वीकार्य इमेज फ़ॉर्मैट नहीं बताते, इसलिए जो भी फ़ॉर्मैट आप स्वीकार करने वाले हैं, हर एक टेस्ट करें। उपयोग के अनुसार भुगतान वाली key पर इमेज का बिल इनपुट टोकन के रूप में बनता है, और बड़ी इमेज ज़्यादा टोकन लेती है; भेजने से पहले resize करें और इमेज टोकन कैलकुलेटर से अंदाज़ा लगाएँ। दस्तावेज़ extraction शुरू से आख़िर तक vision LLM से दस्तावेज़ों से डेटा निकालना में है।

कोड में हर इनपुट को रूट कैसे करें?

यह function फ़ाइल प्रकार से endpoint चुनता है, भेजने से पहले डॉक्यूमेंटेड सीमाएँ जाँचता है, और इमेज लेने वाले मॉडलों की लिस्ट hard-code करने के बजाय लाइव फ़ीड से पढ़ता है। यह OpenAI Python SDK इस्तेमाल करता है, जो base URL बदलने के बाद BroadNet के साथ काम करता है (सेटअप गाइड)।

import base64, json, mimetypes, os, urllib.request
from pathlib import Path
from openai import OpenAI

client = OpenAI(base_url=os.environ.get("BROADNET_BASE_URL", "https://inference.broadnet.ai/v1"),
                api_key=os.environ["BROADNET_API_KEY"])
feed = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json", timeout=30))
live = [m for m in feed["models"] if m.get("status", "live") == "live"]
VISION = {m["id"] for m in live if "image" in m.get("modalities", [])}
AUDIO_TYPES = {"audio/wav", "audio/x-wav", "audio/mpeg"}       # WAV or MP3, per the docs
AUDIO_MAX = 26_214_400                                         # bytes per file, per the docs
IMAGE_TYPES = {"image/jpeg", "image/png", "image/webp"}        # your allow-list; test each one

def run(task: str, path: str | None = None, *, chat_model="broadnet/gemma-4-26b-a4b",
        stt_model="broadnet/cohere-transcribe-arabic", language="ar") -> str:
    kind = mimetypes.guess_type(path)[0] if path else None
    if kind is None:                                           # text only
        r = client.chat.completions.create(model=chat_model, max_tokens=1500,
                                           messages=[{"role": "user", "content": task}])
        return r.choices[0].message.content
    if kind in AUDIO_TYPES or kind.startswith("audio/"):
        if kind not in AUDIO_TYPES:
            raise ValueError(f"{kind}: convert first, e.g. ffmpeg -i in.ogg -ar 16000 -ac 1 out.wav")
        if Path(path).stat().st_size > AUDIO_MAX:
            raise ValueError("over 26,214,400 bytes: split the audio before sending")
        with open(path, "rb") as f:                            # step 1: speech to text
            text = client.audio.transcriptions.create(model=stt_model, file=f, language=language).text
        return run(f"{task}\n\nTranscript:\n{text}", chat_model=chat_model) if task else text
    if kind in IMAGE_TYPES:
        if chat_model not in VISION:
            raise ValueError(f"{chat_model} takes no images here; pick one of {sorted(VISION)}")
        data = base64.b64encode(Path(path).read_bytes()).decode()
        r = client.chat.completions.create(model=chat_model, max_tokens=1500, messages=[{"role": "user",
            "content": [{"type": "text", "text": task},
                        {"type": "image_url", "image_url": {"url": f"data:{kind};base64,{data}"}}]}])
        return r.choices[0].message.content
    raise ValueError(f"unsupported input type {kind}")

हमने इसे BROADNET_BASE_URL को एक लोकल mock सर्वर पर रखकर (कोई लाइव API कॉल नहीं) और लाइव pricing फ़ीड के साथ टेस्ट किया। टेक्स्ट, एक WAV फ़ाइल, फ़ॉलो-अप टास्क के साथ एक WAV फ़ाइल, और एक PNG, हर एक सही mock endpoint तक पहुँचा। chat_model="broadnet/glm-5.3" के साथ PNG भेजना किसी भी अनुरोध से पहले ही अस्वीकार हो गया, फ़ीड से इमेज लेने वाले तीनों ID की लिस्ट के साथ। एक .ogg फ़ाइल उसे बदलने वाली ffmpeg कमांड के साथ अस्वीकार हुई; वह चरण WhatsApp वॉइस नोट ट्रांसक्राइब करना में है। साइज़ सीमा से बड़ी रिकॉर्डिंग को बाँटना होगा; ऑडियो स्प्लिटर ffmpeg कमांड बना देता है।

अगर दस्तावेज़ पहले से टेक्स्ट है तो?

तो उसकी तस्वीर न भेजें। अकाउंटिंग सिस्टम या वर्ड प्रोसेसर से एक्सपोर्ट किए गए PDF में आम तौर पर टेक्स्ट लेयर होती है; उसे PDF लाइब्रेरी से निकालें और टेक्स्ट किसी चैट मॉडल को भेजें। उपयोग के अनुसार भुगतान वाली key पर यह इमेज से सस्ता है, ग़लत पढ़ाई से बचाता है, और GLM 5.3 पर भी काम करता है। vision को स्कैन, फ़ोन फ़ोटो, हस्तलिपि, मुहरों और स्क्रीनशॉट के लिए रखें, जहाँ निकालने के लिए कोई टेक्स्ट लेयर नहीं होती।

दस्तावेज़ पाइपलाइन में एक काम का नियम: पहले टेक्स्ट extraction आज़माएँ, जाँचें कि उसने असली टेक्स्ट लौटाया (ख़ाली पेज या बिगड़े अक्षर नहीं), और ऐसा न होने पर ही इमेज पर लौटें। अरबी PDF के लिए, भरोसा करने से पहले निकाले गए टेक्स्ट का एक सैंपल पढ़ें: PDF कैसे बना था, इस पर निर्भर करते हुए extraction अरबी अक्षरों को ग़लत क्रम में या बिना जुड़े presentation forms में लौटा सकता है। जिन मामलों में इमेज बेहतर स्रोत है, वे vision LLM से अरबी OCR में हैं।

लागत की तुलना कैसी है?

हर इनपुट प्रकार का बिल उसकी अपनी इकाई में बनता है, इसलिए प्रति अनुरोध नहीं, प्रति टास्क तुलना करें:

  • टेक्स्ट का बिल प्रति इनपुट और आउटपुट टोकन बनता है। उसी कंटेंट के लिए अरबी को अक्सर अंग्रेज़ी से ज़्यादा टोकन चाहिए; अरबी टोकन काउंटर इसे मापता है।
  • इमेज उपयोग के अनुसार भुगतान पर मॉडल की इनपुट कीमत पर इनपुट टोकन हैं, इसलिए एक बड़ी फ़ोटो टेक्स्ट के एक पेज से महँगी पड़ सकती है। DeepSeek सेशन प्लान पर इमेज फ़्लैट कीमत में शामिल हैं।
  • ऑडियो का बिल ऑडियो के प्रति मिनट बनता है, चाहे जो भी कहा गया हो। BroadNet पर 30-30 सेकंड के 10,000 अरबी वॉइस नोट अरबी मॉडल के साथ लगभग $21.00 के पड़ते हैं। दूसरी मात्राओं के लिए speech-to-text कॉस्ट कैलकुलेटर है।

chain में उसके हिस्से जुड़ते हैं: चैट मॉडल से जवाब पाने वाले वॉइस नोट की लागत है ट्रांसक्रिप्शन के मिनट, और साथ में ट्रांसक्रिप्ट व जवाब के चैट टोकन। चैट वाला हिस्सा LLM API कॉस्ट कैलकुलेटर संभालता है।

क्या उपलब्ध नहीं है, और उसकी जगह क्या करें?

BroadNet का API रेफ़रंस दो inference endpoint डॉक्यूमेंट करता है: chat completions और audio transcriptions। इसलिए ये नहीं हैं:

  • Text-to-speech। कोई /v1/audio/speech नहीं। अगर आपके प्रोडक्ट को बोलकर जवाब देना है, तो BroadNet ट्रांसक्रिप्शन और चैट को किसी अलग TTS सेवा के साथ जोड़ें।
  • लाइव वॉइस। ट्रांसक्रिप्शन अपलोड की गई फ़ाइल लेता है, लाइव ऑडियो स्ट्रीम नहीं। कॉल के बीच में जवाब देने वाले फ़ोन एजेंट के लिए आपको कहीं और realtime वॉइस स्टैक चाहिए। फ़ाइल-आधारित विकल्प ट्रांसक्रिप्शन के लिए ब्राउज़र ऑडियो रिकॉर्ड करना में है।
  • इमेज जनरेशन। यहाँ vision इमेज पढ़ता है; बनाता नहीं।
  • Embeddings। कोई /v1/embeddings नहीं। retrieval के लिए आपको किसी दूसरे प्रोवाइडर का या self-hosted embedding मॉडल चाहिए; embedding कॉस्ट कैलकुलेटर कीमतों की तुलना करता है।

BroadNet के रिसर्च कैटलॉग में text-to-speech, इमेज-जनरेशन और embedding मॉडल सूचीबद्ध हैं, जिन पर उसकी लैब में benchmarked का निशान है। यह दर्ज करता है कि BroadNet ने क्या टेस्ट किया, यह नहीं कि उसका API क्या बेचता है; यह फ़र्क़ मॉडल कैटलॉग कैसे पढ़ें में समझाया गया है।

हर इनपुट के लिए अलग evaluation set क्यों चाहिए?

क्योंकि हर इनपुट प्रकार अलग तरह से फ़ेल होता है, और सबका औसत उन विफलताओं को छिपा देता है।

  • टेक्स्ट: असली यूज़र मैसेज पर स्कोर करें, जहाँ हो सके कोड चेक के साथ। विधि मॉडल बदलने से पहले LLM का मूल्यांकन में है।
  • इमेज: असली क्वालिटी वाली असली फ़ोटो इस्तेमाल करें: तिरछे कोण से ली गई फ़ोन तस्वीरें, फीकी रसीदें, टेक्स्ट पर लगी मुहरें। हर फ़ील्ड को अलग स्कोर करें। साफ़ PDF render उन फ़ोटो से कहीं ज़्यादा स्कोर करता है जो आपके यूज़र भेजेंगे।
  • स्पीच: अपनी रिकॉर्डिंग पर word error rate मापें, बोली, स्पीकर और लाइन क्वालिटी के हिसाब से बाँटकर, और ज़रूरी शब्दों (नाम, नंबर, रकम) को अलग से जाँचें। अरबी ASR WER की व्याख्या देखें।
  • Chains: जब आवाज़ किसी चैट मॉडल को जाती है, तो दोनों चरणों और अंतिम नतीजे, तीनों को स्कोर करें। ग़लत सुना गया नंबर एक आत्मविश्वासी ग़लत जवाब बन जाता है, और सिर्फ़ end-to-end टेस्ट दिखाता है कि ऐसा कितनी बार होता है।

सेट अलग रखें, उनका वर्शन रखें, और जब भी मॉडल या प्रॉम्प्ट बदलें, संबंधित सेट दोबारा चलाएँ।

BroadNet Inference कहाँ फ़िट होता है

BroadNet Inference टास्क टेबल की पहली पाँच पंक्तियाँ एक key और एक base URL से कवर करता है: टेक्स्ट चैट, GLM 5.3 और Qwen3.8 27B पर tool calling, तीन मॉडलों पर इमेज समझना, और अरबी या बहुभाषी ट्रांसक्रिप्शन। Gemma 4 VL 26B और दोनों ट्रांसक्रिप्शन मॉडल $5 के शुरुआती क्रेडिट पर चलते हैं; DeepSeek, GLM और Qwen के लिए टॉप-अप चाहिए। inference कंटेंट नहीं रखा जाता; ज़रूरी अकाउंट, बिलिंग और सिक्योरिटी मेटाडेटा BroadNet के प्राइवेसी स्टेटमेंट में बताए अनुसार रखा जाता है। बोलने, इमेज जनरेशन, लाइव वॉइस या embeddings के लिए कोई दूसरी सेवा इस्तेमाल करें। ऊपर की हर चीज़ की कीमतें pricing पेज पर हैं।

अक्सर पूछे जाने वाले सवाल

इमेज के लिए कौन-सा AI मॉडल इस्तेमाल करूँ?

ऐसा मॉडल जो आपके API पर इमेज इनपुट लेता हो। BroadNet Inference के pricing फ़ीड के अनुसार ये DeepSeek V4.1 Flash, Qwen3.8 27B या Gemma 4 VL 26B हैं; GLM 5.3 सिर्फ़ टेक्स्ट लेता है। इमेज को चैट मैसेज में data URL के रूप में भेजें।

क्या चैट मॉडल ऑडियो ट्रांसक्राइब कर सकता है?

BroadNet Inference पर नहीं। ऑडियो ट्रांसक्रिप्शन endpoint, /v1/audio/transcriptions, पर ट्रांसक्रिप्शन मॉडल के साथ जाता है। अगर उसके बाद सारांश या जवाब चाहिए, तो दूसरे चरण में ट्रांसक्रिप्ट किसी चैट मॉडल को भेजें।

क्या BroadNet Inference text-to-speech या इमेज जनरेशन देता है?

नहीं। उसका API रेफ़रंस सिर्फ़ chat completions और ऑडियो ट्रांसक्रिप्शन डॉक्यूमेंट करता है। text-to-speech और इमेज-जनरेशन मॉडल BroadNet के रिसर्च कैटलॉग में benchmarked के रूप में दिखते हैं, जो उपलब्ध कराए जाने के बराबर नहीं है।

BroadNet कौन-से ऑडियो फ़ॉर्मैट स्वीकार करता है?

WAV (audio/wav) या MP3 (audio/mpeg), हर फ़ाइल 26,214,400 bytes तक। दूसरे फ़ॉर्मैट, जैसे WhatsApp का .ogg वॉइस नोट, पहले ffmpeg से बदलें, और language पैरामीटर हमेशा भेजें।

इमेज का बिल कैसे बनता है?

उपयोग के अनुसार भुगतान वाली key पर BroadNet इमेज को मॉडल की इनपुट कीमत पर इनपुट टोकन के रूप में बिल करता है, और बड़ी इमेज ज़्यादा टोकन लेती है। DeepSeek सेशन प्लान पर इमेज फ़्लैट कीमत में शामिल हैं।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें