SDK کی ہر درخواست base URL اور ایک پاتھ کو جوڑ کر بنتی ہے۔ base URL درست ہو تو باقی کلائنٹ بغیر تبدیلی کے چلتا ہے۔
یہ کیسے کام کرتا ہے
کلائنٹ دو حصے جوڑتا ہے:
| حصہ | مثال |
|---|---|
| base URL | https://inference.broadnet.ai/v1 |
| اینڈپوائنٹ پاتھ | /chat/completions |
| درخواست کا پورا URL | https://inference.broadnet.ai/v1/chat/completions |
کوڈ میں پیرامیٹر کا نام لائبریری پر منحصر ہے:
# Python SDK
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
// Node SDK
const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
دونوں سرکاری SDK، OPENAI_BASE_URL انوائرنمنٹ ویری ایبل پر جاتے ہیں، اور کچھ بھی سیٹ نہ ہو تو OpenAI کے اپنے پتے پر۔ دوسرے ٹولز api_base یا OPENAI_API_BASE جیسے نام استعمال کرتے ہیں۔
یہ کیوں اہم ہے
base URL ہی OpenAI-compatible API کو آسان تبدیلی بناتا ہے۔ یہی طے کرتا ہے کہ آپ کے پرامپٹس کہاں جاتے ہیں اور بل کون بناتا ہے۔ غلط قدر ٹریفک، اور آپ کی API کلید، غلط فراہم کنندہ کو بھیج سکتی ہے۔ اسے کلید کے ساتھ کنفیگریشن میں رکھیں، کئی جگہوں پر ہارڈ کوڈ نہ کریں۔
راؤٹرز بھی یہی طریقہ استعمال کرتے ہیں: آپ base URL کو ماڈل فراہم کنندہ کے بجائے راؤٹر کی طرف کرتے ہیں۔
BroadNet Inference پر
ہر ماڈل کے لیے base URL https://inference.broadnet.ai/v1 ہے: چیٹ، وژن اور اسپیچ ٹو ٹیکسٹ۔ چیٹ /chat/completions پر جاتی ہے اور ٹرانسکرپشن /audio/transcriptions پر۔ curl کوئک اسٹارٹ پہلی درخواست دکھاتا ہے، اور LangChain گائیڈ دکھاتی ہے کہ فریم ورک میں یہ سیٹنگ کہاں ہے۔
عام غلطیاں
/v1کا نہ ہونا۔/v1کے بغیرhttps://inference.broadnet.aiسے SDK میں 404 ایررز آتے ہیں۔- دہرا پاتھ۔ پورا اینڈپوائنٹ، جیسے
.../v1/chat/completions، base URL میں پیسٹ کرنے پر SDK.../chat/completions/chat/completionsکال کرتا ہے۔ - بچے ہوئے انوائرنمنٹ ویری ایبلز۔ آپ کے شیل میں پرانا
OPENAI_BASE_URLآپ کی متوقع قدر کو اوور رائیڈ کر دیتا ہے۔ درخواستیں غلط جگہ جائیں تو اسے پرنٹ کریں۔ - سادہ HTTP۔ ہمیشہ
https://استعمال کریں۔ bearer کلیدوں کا TLS پر ہی جانا ضروری ہے۔ - URL بدلنا مگر ماڈل نہیں۔ ہر فراہم کنندہ کے اپنے ماڈل ID ہوتے ہیں، جیسے
broadnet/deepseek-v4.1-flash۔
پوری ایپ منتقل کر رہے ہیں؟ مائیگریشن چیک لسٹ پر عمل کریں۔