OpenAI کا API فارمیٹ LLM ٹولنگ کی مشترکہ زبان بن گیا۔ اب کئی فراہم کنندگان اسے قبول کرتے ہیں، اس لیے ایک ہی کلائنٹ لائبریری کئی بیک اینڈز سے بات کر سکتی ہے۔
یہ کیسے کام کرتا ہے
compatible API، OpenAI API کے وہ حصے نقل کرتا ہے جن پر کلائنٹس انحصار کرتے ہیں:
- وہی پاتھ، جیسے
/v1/chat/completionsاور/v1/audio/transcriptions؛ - وہی JSON ساخت: اندر
messagesarray، باہرchoices[0].message.content، اور ٹوکن گنتیوں والاusageبلاک؛ Authorization: Bearer <key>کے طور پر بھیجی گئی API کلید؛streamکے true ہونے پر server-sent events کی صورت میں اسٹریمنگ۔
تبدیلی بس کنفیگریشن کا معاملہ ہے۔ سرکاری Python SDK کے ساتھ:
from openai import OpenAI
import os
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)
OpenAI کی مثال سے صرف تین قدریں بدلیں: base URL، کلید اور ماڈل ID۔
یہ کیوں اہم ہے
compatibility سے تبدیلی کی لاگت کم ہوتی ہے۔ OpenAI فارمیٹ سمجھنے والے SDK، ایجنٹ فریم ورکس، IDE پلگ انز اور راؤٹرز نئے کوڈ کے بغیر چلتے ہیں۔ آپ دوسرا فراہم کنندہ منٹوں میں ٹیسٹ کر سکتے ہیں اور منتقل ہونے کا راستہ کھلا رکھ سکتے ہیں۔
لیکن compatible کا مطلب یکساں نہیں۔ مثال کے طور پر Anthropic کی اپنی compatibility لیئر ٹولز پر strict کو نظر انداز کرتی ہے اور prompt_tokens_details خالی چھوڑتی ہے۔ عام فرق یہ ہیں:
- پیرامیٹرز جو نظر انداز یا رد ہوتے ہیں؛
- ریزننگ ٹوکنز
max_tokensمیں کیسے شمار ہوتے ہیں؛ - اسٹریم کے آخر میں usage رپورٹ ہوتا ہے یا نہیں؛
- ریٹ لمٹس اور ایرر کوڈز۔
BroadNet Inference پر
BroadNet Inference، https://inference.broadnet.ai/v1 پر POST /v1/chat/completions، POST /v1/audio/transcriptions اور GET /v1/models فراہم کرتا ہے۔ کلیدیں صرف Authorization: Bearer <key> کے طور پر بھیجی جاتی ہیں۔ Python اور Node گائیڈز پورا سیٹ اپ دکھاتی ہیں، اور LangChain بھی اسی طرح چلتا ہے۔
دو فرقوں کی پہلے سے تیاری کریں: DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں، اور ریزننگ max_tokens میں شمار ہوتی ہے۔ اور استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستوں اور بیک وقت 4 درخواستوں کی اجازت دیتی ہے۔ باقی باتیں مائیگریشن چیک لسٹ میں ہیں۔
عام غلطیاں
gpt-6-astra(OpenAI کے ماڈلز والے صفحے پر اس کا فلیگ شپ ماڈل، 2026-11-15 کو دیکھا گیا) جیسا OpenAI ماڈل نام برقرار رکھنا۔ فراہم کنندہ کا ماڈل ID استعمال کریں۔- یہ فرض کر لینا کہ درخواست کامیاب ہوئی تو پیرامیٹر بھی چلا۔ کچھ فراہم کنندگان نامعلوم فیلڈز خاموشی سے نظر انداز کر دیتے ہیں۔