BroadRouter
شروع کریں

BroadNet Inference کے ساتھ OpenAI Python SDK استعمال کریں

اپ ڈیٹ

openai پیکج انسٹال کریں، پھر کلائنٹ بناتے وقت base_url کو https://inference.broadnet.ai/v1 اور api_key کو اپنی BroadNet کلید پر سیٹ کریں۔ ہر chat.completions کال بغیر تبدیلی کے چلتی ہے؛ صرف ماڈل ID بدلتا ہے، مثلاً broadnet/deepseek-v4.1-flash۔ BroadNet، chat completions اور ٹرانسکرپشن فراہم کرتا ہے، Responses API نہیں۔

آپ کو ایک BroadNet Inference اکاؤنٹ اور ایک انفرنس کلید چاہیے۔ نئے اکاؤنٹس $5 کریڈٹ کے ساتھ شروع ہوتے ہیں، کارڈ کی ضرورت نہیں؛ inference.broadnet.ai پر اکاؤنٹ بنائیں۔ کنسول کلید صرف ایک بار دکھاتا ہے اور صرف اس کا ہیش محفوظ کرتا ہے، اس لیے اسے سیدھا اپنے انوائرنمنٹ میں کاپی کریں۔

1. انسٹال کریں اور کلید سیٹ کریں

موجودہ openai پیکج (3.x) کو Python 3.10 یا اس سے نیا ورژن چاہیے۔

python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'

2. پہلی درخواست بھیجیں

اسے first_request.py کے نام سے محفوظ کریں:

from openai import OpenAI
import os

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)

اسے python first_request.py سے چلائیں۔ اس مثال میں broadnet/gemma-4-26b-a4b ہے کیونکہ یہ مفت کریڈٹ پر چلتا ہے۔ باقی چیٹ ماڈلز ٹاپ اپ کے بعد دستیاب ہوتے ہیں۔

3. اپنی پسند کا ماڈل منتخب کریں

صرف model بدلیں:

آپ کو چاہیے ماڈل ID
مقررہ قیمت والے پلان پر لامحدود، 1M کانٹیکسٹ broadnet/deepseek-v4.1-flash
ٹولز اور اسٹرکچرڈ آؤٹ پٹ، 1M کانٹیکسٹ broadnet/glm-5.3
عربی متن اور تصاویر broadnet/qwen3.8-27b
کم قیمت، مفت کریڈٹ پر چلتا ہے broadnet/gemma-4-26b-a4b

DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں، اور یہ ریزننگ max_tokens میں شمار ہوتی ہے۔ انہیں 1,000 یا زیادہ ٹوکن دیں۔ کم حد پر خالی جواب کیوں آتا ہے، یہاں پڑھیں۔

4. جواب اسٹریم کریں

stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    stream=True,
    stream_options={"include_usage": True},
    messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\n", chunk.usage)

include_usage کے ساتھ ٹوکن گنتیاں آخری چنک میں آتی ہیں، جس میں choices نہیں ہوتا۔ ٹوٹے ہوئے کنکشنز اسٹریمنگ گائیڈ میں بیان کیے گئے ہیں۔

5. ریکویسٹ ID محفوظ رکھیں

ہر ریسپانس میں X-Request-ID ہیڈر ہوتا ہے۔ اسے لاگ کریں، کیونکہ BroadNet سپورٹ اسے مانگتی ہے۔ پارس شدہ ریسپانس میں یہ response._request_id کے طور پر ملتا ہے۔ دوسرے ہیڈرز کے ساتھ پڑھنے کے لیے:

raw = client.chat.completions.with_raw_response.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()

استعمال کے مطابق ادائیگی والی کلیدیں فی منٹ 30 درخواستوں اور بیک وقت 4 جاری درخواستوں کی اجازت دیتی ہیں۔ ہر ایرر کوڈ کا مطلب اور دوبارہ کوشش کب کریں۔

مسائل کا حل

  • AuthenticationError (401)۔ کلید غلط ہے، میعاد ختم ہو چکی ہے، یا استعمال کے مطابق ادائیگی والی حد پوری ہو گئی ہے۔ دیکھیں کہ آپ کا کوڈ چلانے والے پروسیس میں BROADNET_API_KEY سیٹ ہے۔
  • NotFoundError (404)۔ دیکھیں کہ base_url کا اختتام /v1 پر ہے اور آپ chat.completions کال کر رہے ہیں، responses نہیں۔ پھر broadnet/ پریفکس سمیت ماڈل ID جانچیں۔
  • نئے اکاؤنٹ پر پیڈ ماڈل ناکام ہوتا ہے۔ $5 کا ابتدائی کریڈٹ BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) اور دونوں BroadNet Transcribe ماڈلز کو کور کرتا ہے۔ باقی چیٹ ماڈلز، یعنی DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B، کے لیے ٹاپ اپ کریں۔
  • خالی content۔ ریزننگ max_tokens میں شمار ہوتی ہے۔ اسے 1,000 یا زیادہ کریں۔ جواب خالی کیوں آتے ہیں۔
  • RateLimitError (429)۔ آپ نے فی منٹ یا بیک وقت چلنے والی درخواستوں کی حد پار کر لی۔ SDK بطور ڈیفالٹ دو بار دوبارہ کوشش کرتا ہے؛ اسے بدلنے کے لیے کلائنٹ پر max_retries سیٹ کریں۔
  • اپ گریڈ کے بعد کسٹم HTTP کلائنٹ میں ایررز۔ 3.x SDK، HTTPX2 استعمال کرتا ہے۔ اگر آپ اپنا http_client پاس کرتے ہیں تو SDK کی HTTPX2 مائیگریشن گائیڈ پر عمل کریں۔

عام سوالات

کیا مجھے کوئی الگ SDK چاہیے؟

نہیں۔ BroadNet Inference، OpenAI کی chat-completions اور audio-transcriptions والی ساخت سمجھتا ہے، اس لیے سرکاری openai پیکج صرف الگ base_url کے ساتھ چل جاتا ہے۔

کیا میں OPENAI_API_KEY ہی استعمال کرتا رہ سکتا ہوں؟

کر سکتے ہیں، مگر الگ BROADNET_API_KEY ویری ایبل رکھنے سے ایک فراہم کنندہ کی کلید غلطی سے دوسرے کو بھیجنے کا خطرہ نہیں رہتا۔

کیا SDK، OPENAI_BASE_URL پڑھتا ہے؟

ہاں۔ اگر آپ base_url پاس نہیں کرتے تو کلائنٹ OPENAI_BASE_URL استعمال کرتا ہے۔ اسے https://inference.broadnet.ai/v1 پر اور OPENAI_API_KEY کو اپنی BroadNet کلید پر سیٹ کریں، پھر OpenAI() کو کسی آرگیومنٹ کی ضرورت نہیں رہتی۔

کیا میں BroadNet کے ساتھ client.responses.create استعمال کر سکتا ہوں؟

نہیں۔ SDK کا README سب سے پہلے Responses API دکھاتا ہے، لیکن BroadNet کی دستاویزات میں صرف chat completions اور audio transcriptions ہیں۔ client.chat.completions.create استعمال کریں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں