BroadRouter
شروع کریں

OpenAI-compatible API

اپ ڈیٹ

OpenAI-compatible API ایسا HTTP API ہے جو OpenAI API والی ہی درخواست اور ریسپانس کی ساخت قبول کرتا ہے، جیسے POST /v1/chat/completions، تاکہ OpenAI کے SDK اور ٹولز صرف base URL، API کلید اور ماڈل کا نام بدل کر اسے استعمال کر سکیں۔

دوسرے نام: OpenAI compatible API کیا ہے، OpenAI جیسا API، openai compatible api kya hai، OpenAI API compatible، OpenAI-style API، OpenAI drop-in replacement، OpenAI-compatible API

OpenAI کا API فارمیٹ LLM ٹولنگ کی مشترکہ زبان بن گیا۔ اب کئی فراہم کنندگان اسے قبول کرتے ہیں، اس لیے ایک ہی کلائنٹ لائبریری کئی بیک اینڈز سے بات کر سکتی ہے۔

یہ کیسے کام کرتا ہے

compatible API، OpenAI API کے وہ حصے نقل کرتا ہے جن پر کلائنٹس انحصار کرتے ہیں:

  • وہی پاتھ، جیسے /v1/chat/completions اور /v1/audio/transcriptions؛
  • وہی JSON ساخت: اندر messages array، باہر choices[0].message.content، اور ٹوکن گنتیوں والا usage بلاک؛
  • Authorization: Bearer <key> کے طور پر بھیجی گئی API کلید؛
  • stream کے true ہونے پر server-sent events کی صورت میں اسٹریمنگ۔

تبدیلی بس کنفیگریشن کا معاملہ ہے۔ سرکاری Python SDK کے ساتھ:

from openai import OpenAI
import os

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)

OpenAI کی مثال سے صرف تین قدریں بدلیں: base URL، کلید اور ماڈل ID۔

یہ کیوں اہم ہے

compatibility سے تبدیلی کی لاگت کم ہوتی ہے۔ OpenAI فارمیٹ سمجھنے والے SDK، ایجنٹ فریم ورکس، IDE پلگ انز اور راؤٹرز نئے کوڈ کے بغیر چلتے ہیں۔ آپ دوسرا فراہم کنندہ منٹوں میں ٹیسٹ کر سکتے ہیں اور منتقل ہونے کا راستہ کھلا رکھ سکتے ہیں۔

لیکن compatible کا مطلب یکساں نہیں۔ مثال کے طور پر Anthropic کی اپنی compatibility لیئر ٹولز پر strict کو نظر انداز کرتی ہے اور prompt_tokens_details خالی چھوڑتی ہے۔ عام فرق یہ ہیں:

  • پیرامیٹرز جو نظر انداز یا رد ہوتے ہیں؛
  • ریزننگ ٹوکنز max_tokens میں کیسے شمار ہوتے ہیں؛
  • اسٹریم کے آخر میں usage رپورٹ ہوتا ہے یا نہیں؛
  • ریٹ لمٹس اور ایرر کوڈز۔

BroadNet Inference پر

BroadNet Inference، https://inference.broadnet.ai/v1 پر POST /v1/chat/completions، POST /v1/audio/transcriptions اور GET /v1/models فراہم کرتا ہے۔ کلیدیں صرف Authorization: Bearer <key> کے طور پر بھیجی جاتی ہیں۔ Python اور Node گائیڈز پورا سیٹ اپ دکھاتی ہیں، اور LangChain بھی اسی طرح چلتا ہے۔

دو فرقوں کی پہلے سے تیاری کریں: DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں، اور ریزننگ max_tokens میں شمار ہوتی ہے۔ اور استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستوں اور بیک وقت 4 درخواستوں کی اجازت دیتی ہے۔ باقی باتیں مائیگریشن چیک لسٹ میں ہیں۔

عام غلطیاں

  • gpt-6-astra (OpenAI کے ماڈلز والے صفحے پر اس کا فلیگ شپ ماڈل، 2026-11-15 کو دیکھا گیا) جیسا OpenAI ماڈل نام برقرار رکھنا۔ فراہم کنندہ کا ماڈل ID استعمال کریں۔
  • یہ فرض کر لینا کہ درخواست کامیاب ہوئی تو پیرامیٹر بھی چلا۔ کچھ فراہم کنندگان نامعلوم فیلڈز خاموشی سے نظر انداز کر دیتے ہیں۔

عام سوالات

کیا OpenAI-compatible کا مطلب ہے کہ OpenAI کا ہر فیچر چلے گا؟

نہیں۔ اس کا مطلب ہے کہ بنیادی درخواست اور ریسپانس کی ساخت ملتی ہے۔ الگ الگ فیلڈز نظر انداز یا رد ہو سکتی ہیں۔ مثال کے طور پر Anthropic کی compatibility لیئر ان فیلڈز کی دستاویز دیتی ہے جنہیں وہ نظر انداز کرتی ہے، اور ان کی بھی جن پر 400 ایرر آتا ہے۔ کسی پیرامیٹر پر انحصار سے پہلے فراہم کنندہ کی فہرست پڑھیں۔

کیا مجھے کوئی الگ SDK چاہیے؟

نہیں۔ OpenAI کے سرکاری SDK کسٹم base URL قبول کرتے ہیں۔ Python میں base_url پاس کریں، Node میں baseURL، یا OPENAI_BASE_URL انوائرنمنٹ ویری ایبل سیٹ کریں۔

BroadNet Inference کون سے اینڈپوائنٹس سپورٹ کرتا ہے؟

چیٹ کے لیے POST /v1/chat/completions اور اسپیچ ٹو ٹیکسٹ کے لیے POST /v1/audio/transcriptions۔ GET /v1/models بھی موجود ہے؛ BroadNet کی دستاویزات اسے بیرونی مانیٹرز کے لیے عوامی کیٹلاگ میٹا ڈیٹا بتاتی ہیں، اس لیے درخواستوں کے لیے ماڈل ID، API ریفرنس سے لیں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں