آپ کو ایک BroadNet Inference اکاؤنٹ اور ایک انفرنس کلید چاہیے۔ نئے اکاؤنٹس $5 کریڈٹ کے ساتھ شروع ہوتے ہیں، کارڈ کی ضرورت نہیں؛ inference.broadnet.ai پر اکاؤنٹ بنائیں۔ کنسول کلید صرف ایک بار دکھاتا ہے اور صرف اس کا ہیش محفوظ کرتا ہے، اس لیے اسے سیدھا اپنے انوائرنمنٹ میں کاپی کریں۔
1. انسٹال کریں اور کلید سیٹ کریں
موجودہ openai پیکج (3.x) کو Python 3.10 یا اس سے نیا ورژن چاہیے۔
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'
2. پہلی درخواست بھیجیں
اسے first_request.py کے نام سے محفوظ کریں:
from openai import OpenAI
import os
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
response = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)
اسے python first_request.py سے چلائیں۔ اس مثال میں broadnet/gemma-4-26b-a4b ہے کیونکہ یہ مفت کریڈٹ پر چلتا ہے۔ باقی چیٹ ماڈلز ٹاپ اپ کے بعد دستیاب ہوتے ہیں۔
3. اپنی پسند کا ماڈل منتخب کریں
صرف model بدلیں:
| آپ کو چاہیے | ماڈل ID |
|---|---|
| مقررہ قیمت والے پلان پر لامحدود، 1M کانٹیکسٹ | broadnet/deepseek-v4.1-flash |
| ٹولز اور اسٹرکچرڈ آؤٹ پٹ، 1M کانٹیکسٹ | broadnet/glm-5.3 |
| عربی متن اور تصاویر | broadnet/qwen3.8-27b |
| کم قیمت، مفت کریڈٹ پر چلتا ہے | broadnet/gemma-4-26b-a4b |
DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں، اور یہ ریزننگ max_tokens میں شمار ہوتی ہے۔ انہیں 1,000 یا زیادہ ٹوکن دیں۔ کم حد پر خالی جواب کیوں آتا ہے، یہاں پڑھیں۔
4. جواب اسٹریم کریں
stream = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
stream=True,
stream_options={"include_usage": True},
messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if chunk.usage:
print("\n", chunk.usage)
include_usage کے ساتھ ٹوکن گنتیاں آخری چنک میں آتی ہیں، جس میں choices نہیں ہوتا۔ ٹوٹے ہوئے کنکشنز اسٹریمنگ گائیڈ میں بیان کیے گئے ہیں۔
5. ریکویسٹ ID محفوظ رکھیں
ہر ریسپانس میں X-Request-ID ہیڈر ہوتا ہے۔ اسے لاگ کریں، کیونکہ BroadNet سپورٹ اسے مانگتی ہے۔ پارس شدہ ریسپانس میں یہ response._request_id کے طور پر ملتا ہے۔ دوسرے ہیڈرز کے ساتھ پڑھنے کے لیے:
raw = client.chat.completions.with_raw_response.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()
استعمال کے مطابق ادائیگی والی کلیدیں فی منٹ 30 درخواستوں اور بیک وقت 4 جاری درخواستوں کی اجازت دیتی ہیں۔ ہر ایرر کوڈ کا مطلب اور دوبارہ کوشش کب کریں۔
مسائل کا حل
AuthenticationError(401)۔ کلید غلط ہے، میعاد ختم ہو چکی ہے، یا استعمال کے مطابق ادائیگی والی حد پوری ہو گئی ہے۔ دیکھیں کہ آپ کا کوڈ چلانے والے پروسیس میںBROADNET_API_KEYسیٹ ہے۔NotFoundError(404)۔ دیکھیں کہbase_urlکا اختتام/v1پر ہے اور آپchat.completionsکال کر رہے ہیں،responsesنہیں۔ پھرbroadnet/پریفکس سمیت ماڈل ID جانچیں۔- نئے اکاؤنٹ پر پیڈ ماڈل ناکام ہوتا ہے۔ $5 کا ابتدائی کریڈٹ BroadNet Gemma 4 VL 26B (
broadnet/gemma-4-26b-a4b) اور دونوں BroadNet Transcribe ماڈلز کو کور کرتا ہے۔ باقی چیٹ ماڈلز، یعنی DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B، کے لیے ٹاپ اپ کریں۔ - خالی
content۔ ریزننگmax_tokensمیں شمار ہوتی ہے۔ اسے 1,000 یا زیادہ کریں۔ جواب خالی کیوں آتے ہیں۔ RateLimitError(429)۔ آپ نے فی منٹ یا بیک وقت چلنے والی درخواستوں کی حد پار کر لی۔ SDK بطور ڈیفالٹ دو بار دوبارہ کوشش کرتا ہے؛ اسے بدلنے کے لیے کلائنٹ پرmax_retriesسیٹ کریں۔- اپ گریڈ کے بعد کسٹم HTTP کلائنٹ میں ایررز۔ 3.x SDK، HTTPX2 استعمال کرتا ہے۔ اگر آپ اپنا
http_clientپاس کرتے ہیں تو SDK کی HTTPX2 مائیگریشن گائیڈ پر عمل کریں۔
