BroadRouter
شروع کریں

ڈویلپرز

اپ ڈیٹ

BroadNet Inference، https://inference.broadnet.ai/v1 پر OpenAI کی درخواستوں کی ساخت استعمال کرتا ہے۔ کنسول میں کلید بنائیں، اسے انوائرنمنٹ ویری ایبل میں رکھیں، اور درست ماڈل ID کے ساتھ /chat/completions یا /audio/transcriptions پر درخواست بھیجیں۔ پروڈکشن ٹریفک منتقل کرنے سے پہلے اس ماڈل کے پیرامیٹرز، اسٹریمنگ، ٹولز، حدیں اور ایررز جانچیں۔

پہلی چیٹ درخواست کیسے بھیجوں؟

  1. inference.broadnet.ai (انگریزی میں) پر سائن ان کریں اور ایک انفرنس کلید بنائیں۔ یہ صرف ایک بار دکھائی جاتی ہے؛ کنسول صرف اس کا ہیش (hash) رکھتا ہے۔
  2. OpenAI SDK انسٹال کریں اور اپنے ٹرمینل میں کلید سیٹ کریں۔ کلیدیں اپنے سرور پر رکھیں، براؤزر کوڈ میں کبھی نہیں۔
  3. درخواست بھیجیں۔ جواب choices[0].message.content سے پڑھیں۔

setup

python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'

first_request.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)

مثال میں BroadNet Gemma 4 VL 26B استعمال ہوا ہے، جس کا احاطہ US$5 کا ابتدائی کریڈٹ کرتا ہے۔ DeepSeek V4.1 Flash، GLM 5.3، اور Qwen3.8 27B کے لیے پہلے ٹاپ اپ ضروری ہے۔ سپورٹ کے لیے X-Request-ID ریسپانس ہیڈر سنبھال کر رکھیں۔

How a request reaches a model
  1. 01Your appKey kept in an environment variable
  2. 02OpenAI SDKTwo settings change

    base_url api_key

  3. 03BroadNet InferenceOpenAI-compatible APIinference.broadnet.ai/v1POST /chat/completions
  4. 04The model you nameSet in every request
    • broadnet/deepseek-v4.1-flash
    • broadnet/glm-5.3
    • broadnet/qwen3.8-27b
    • broadnet/gemma-4-26b-a4byour choice
  5. 05ResponseFrom that model

You choose the model in each request. There is no automatic routing: the request runs on the model ID you sent.

Your app calls the OpenAI SDK with BroadNet’s base URL and your key. The request goes to BroadNet Inference with the model ID you wrote, and that model answers. Nothing picks or switches the model for you.

اسٹریمنگ

stream=true سیٹ کریں اور data: [DONE] تک Server-Sent Events پڑھیں۔ stream_options.include_usage کے ساتھ ٹوکن کا استعمال آخری حصے میں آتا ہے۔ اگر اسٹریم [DONE] سے پہلے ختم ہو جائے تو جواب کو نامکمل سمجھیں۔ BroadNet کہتا ہے کہ پروڈکشن میں انحصار سے پہلے ہر ماڈل پر اسٹریمنگ کی تصدیق کریں۔

stream.sh

curl -N https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'

آڈیو کو متن میں کیسے بدلوں؟

WAV یا MP3، ہر فائل 26,214,400 بائٹ تک، /audio/transcriptions پر بھیجیں۔ language ہمیشہ سیٹ کریں: اس کے بغیر عربی لاطینی حروف میں واپس آ سکتی ہے۔ عربی کے لیے language=ar استعمال کریں۔ .ogg یا .m4a کو پہلے تبدیل کریں: ffmpeg -i voice-note.ogg -ar 16000 -ac 1 voice-note.wav

transcribe.py

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
with open("recording.wav", "rb") as audio:
    result = client.audio.transcriptions.create(
        model="broadnet/cohere-transcribe-arabic",
        file=audio,
        language="ar",
    )
print(result.text)

جواب JSON ہوتا ہے، اور ٹرانسکرپٹ text فیلڈ میں ہوتا ہے۔ عربی یا کثیر لسانی ماڈل، اور آڈیو کی لاگت۔

میں کون سے ماڈل IDs استعمال کر سکتا ہوں؟

model میں درست ID بھیجیں۔ چیٹ ماڈلز ڈھونڈنے کے لیے /v1/models پر انحصار نہ کریں؛ یہ فہرست یا ریفرنس (انگریزی میں) استعمال کریں۔

ماڈلIDاینڈپوائنٹان پٹدستاویزیرسائی
DeepSeek V4.1 Flashbroadnet/deepseek-v4.1-flash/chat/completionsٹیکسٹ + تصویرریزننگٹاپ اپ ضروری
GLM 5.3broadnet/glm-5.3/chat/completionsٹیکسٹٹولز، اسٹرکچرڈ آؤٹ پٹ، ریزننگٹاپ اپ ضروری
Qwen3.8 27Bbroadnet/qwen3.8-27b/chat/completionsٹیکسٹ + تصویرٹولز، اسٹرکچرڈ آؤٹ پٹ، ریزننگٹاپ اپ ضروری
BroadNet Gemma 4 VL 26Bbroadnet/gemma-4-26b-a4b/chat/completionsٹیکسٹ + تصویر—ابتدائی کریڈٹ
BroadNet Transcribe Arabicbroadnet/cohere-transcribe-arabic/audio/transcriptionsعربی آڈیو—ابتدائی کریڈٹ
BroadNet Transcribebroadnet/cohere-transcribe/audio/transcriptionsآڈیو، 14 زبانیں—ابتدائی کریڈٹ

”دستاویزی“ کالم میں وہ ٹولز، اسٹرکچرڈ آؤٹ پٹ اور ریزننگ ہیں جن کا BroadNet کے ریفرنس میں ہر ماڈل کے لیے ذکر ہے (جانچ کی تاریخ: 2026-11-15)۔ ڈیش کا مطلب ہے کہ ریفرنس میں ان کا ذکر نہیں؛ اس کا مطلب یہ نہیں کہ وہ موجود نہیں۔

کسی دوسرے OpenAI سے مطابقت رکھنے والے API سے منتقلی: چیک لسٹ

درخواستوں کی ساخت مانوس ہے، لیکن ماڈلز مختلف ہوتے ہیں۔ منتخب ماڈل کے لیے ہر نکتہ جانچیں، اور ٹریفک منتقل کرنے سے پہلے ٹیسٹ کریں۔

  1. اینڈپوائنٹ۔ base URL کو https://inference.broadnet.ai/v1 پر سیٹ کریں۔
  2. کلید۔ انوائرنمنٹ ویری ایبل سے BroadNet کی انفرنس کلید استعمال کریں۔ پلان کی کلیدیں اور استعمال کے مطابق ادائیگی والی کلیدیں الگ ہیں۔
  3. ماڈل ID۔ درست ID استعمال کریں، مثلاً broadnet/gemma-4-26b-a4b۔
  4. پیرامیٹرز۔ یقینی بنائیں کہ آپ جو بھی پیرامیٹر بھیجتے ہیں وہ اس ماڈل کے لیے دستاویزی ہے۔ جو فہرست میں نہیں، انہیں ہٹا دیں۔
  5. اسٹریمنگ۔ یقینی بنائیں کہ آپ کا کلائنٹ SSE کو [DONE] تک پڑھتا ہے اور قبل از وقت ختم ہونے والی اسٹریم کو سنبھالتا ہے۔
  6. ٹولز اور اسٹرکچرڈ آؤٹ پٹ۔ ریفرنس ان کی دستاویز GLM 5.3 اور Qwen3.8 27B کے لیے دیتا ہے۔ کسی اور ماڈل پر انحصار سے پہلے ٹیسٹ کریں۔
  7. ریزننگ۔ ریزننگ آؤٹ پٹ بجٹ کا کچھ حصہ استعمال کر سکتی ہے۔ max_tokens میں گنجائش چھوڑیں؛ دیکھیں ریزننگ ماڈلز کے خالی جوابات۔
  8. حدیں۔ استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستوں اور بیک وقت 4 جاری درخواستوں کی اجازت دیتی ہے۔ پلان کا سیشن ایک وقت میں ایک درخواست چلاتا ہے۔ Gemma کی گھنٹے والی کلید ایک اسٹریم، فی منٹ 120 درخواستوں اور فی منٹ 300,000 ٹوکن کی اجازت دیتی ہے۔
  9. کانٹیکسٹ۔ کانٹیکسٹ میں ان پٹ اور جواب دونوں شامل ہیں۔ ماڈل کی حد اس کے ماڈل کا صفحہ پر دیکھیں۔
  10. ایررز۔ نیچے دیے گئے اسٹیٹس کوڈز کو دوبارہ کوشش یا درستی کے اقدام سے جوڑیں، اور X-Request-ID لاگ کریں۔
  11. لاگت۔ قیمتوں کے کیلکولیٹرز سے تخمینہ لگائیں۔ استعمال کے مطابق ادائیگی میں تصاویر ان پٹ ٹوکن کے طور پر گنی جاتی ہیں۔

کن ایررز پر دوبارہ کوشش کرنی چاہیے؟

اسٹیٹسمطلبکیا کریں
400 / 422غلط درخواست یا فیلڈدرخواست درست کریں؛ اسے جوں کا توں دوبارہ نہ بھیجیں
401کلید موجود نہیں، غلط یا میعاد ختم، یا الاؤنس ختمکلید اور اکاؤنٹ جانچیں
402insufficient_balanceٹاپ اپ کریں، پھر دوبارہ کوشش کریں
413درخواست بائٹ یا متن کی حد سے بڑی ہےکم بھیجیں، مثلاً چھوٹی آڈیو فائل
429ریٹ، بیک وقت درخواستوں، ٹوکن ریٹ یا خرچ کی حدمحدود وقفے کے بعد دوبارہ کوشش کریں
500–504سرور کی طرف کا مسئلہمحدود ایکسپونینشل بیک آف کے ساتھ دوبارہ کوشش کریں

ریفرنس کی ایررز ٹیبل (انگریزی میں) سے خلاصہ، جانچ کی تاریخ 2026-11-15۔ دوبارہ کوشش کے کوڈ کی مثالیں۔

مکمل دستاویزات اور گائیڈز کہاں ہیں؟

پرائیویٹ اینڈپوائنٹ یا فہرست سے باہر کا ماڈل چاہیے؟ BroadNet سے رابطہ کریں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں