OpenAI का API फ़ॉर्मैट LLM टूलिंग की साझा भाषा बन गया। अब कई प्रोवाइडर इसे स्वीकार करते हैं, इसलिए एक ही क्लाइंट लाइब्रेरी कई बैकएंड से बात कर सकती है।
यह कैसे काम करता है
compatible API, OpenAI API के वे हिस्से कॉपी करता है जिन पर क्लाइंट निर्भर हैं:
- वही पाथ, जैसे
/v1/chat/completionsऔर/v1/audio/transcriptions; - वही JSON फ़ॉर्मैट: अंदर
messagesarray, बाहरchoices[0].message.content, और टोकन गिनती वालाusageब्लॉक; Authorization: Bearer <key>के रूप में भेजी गई API key;streamके true होने पर server-sent events के रूप में स्ट्रीमिंग।
स्विच करना बस कॉन्फ़िगरेशन का बदलाव है। आधिकारिक Python SDK के साथ:
from openai import OpenAI
import os
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)
OpenAI के उदाहरण से सिर्फ़ तीन वैल्यू बदलीं: base URL, key और मॉडल ID।
यह क्यों मायने रखता है
compatibility से स्विच करने की लागत घटती है। OpenAI फ़ॉर्मैट समझने वाले SDK, एजेंट फ़्रेमवर्क, IDE प्लगइन और राउटर बिना नए कोड के चलते हैं। आप दूसरा प्रोवाइडर मिनटों में टेस्ट कर सकते हैं और बदलने का विकल्प खुला रख सकते हैं।
लेकिन compatible का मतलब एक जैसा नहीं। उदाहरण के लिए Anthropic की अपनी compatibility लेयर टूल पर strict को अनदेखा करती है और prompt_tokens_details ख़ाली छोड़ती है। आम अंतर ये हैं:
- पैरामीटर जो अनदेखे या अस्वीकार होते हैं;
- रीज़निंग टोकन
max_tokensमें कैसे गिने जाते हैं; - स्ट्रीम के आख़िर में usage रिपोर्ट होता है या नहीं;
- रेट लिमिट और एरर कोड।
BroadNet Inference पर
BroadNet Inference https://inference.broadnet.ai/v1 पर POST /v1/chat/completions, POST /v1/audio/transcriptions और GET /v1/models देता है। key सिर्फ़ Authorization: Bearer <key> के रूप में भेजी जाती हैं। Python और Node गाइड पूरा सेटअप दिखाती हैं, और LangChain भी इसी तरह चलता है।
दो अंतरों के लिए पहले से तैयारी करें: DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं, और रीज़निंग max_tokens में गिनी जाती है। और उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोधों की अनुमति देती है। बाक़ी बातें माइग्रेशन चेकलिस्ट में हैं।
आम ग़लतियाँ
gpt-6-astra(OpenAI के मॉडल पेज पर उसका फ़्लैगशिप, 2026-11-15 को जाँचा गया) जैसा OpenAI मॉडल नाम रखे रहना। प्रोवाइडर का मॉडल ID इस्तेमाल करें।- यह मान लेना कि अनुरोध सफल हुआ तो पैरामीटर भी चला। कुछ प्रोवाइडर अनजान फ़ील्ड चुपचाप अनदेखा कर देते हैं।