BroadRouter
शुरू करें

OpenAI-compatible API

अपडेट किया गया

OpenAI-compatible API ऐसा HTTP API है जो OpenAI API वाले ही अनुरोध और रिस्पॉन्स फ़ॉर्मैट स्वीकार करता है, जैसे POST /v1/chat/completions, ताकि OpenAI के SDK और टूल सिर्फ़ base URL, API key और मॉडल का नाम बदलकर इसे इस्तेमाल कर सकें।

अन्य नाम: OpenAI compatible API क्या है, OpenAI जैसा API, openai compatible api kya hai, OpenAI API compatible, OpenAI-style API, OpenAI drop-in replacement, OpenAI-compatible API

OpenAI का API फ़ॉर्मैट LLM टूलिंग की साझा भाषा बन गया। अब कई प्रोवाइडर इसे स्वीकार करते हैं, इसलिए एक ही क्लाइंट लाइब्रेरी कई बैकएंड से बात कर सकती है।

यह कैसे काम करता है

compatible API, OpenAI API के वे हिस्से कॉपी करता है जिन पर क्लाइंट निर्भर हैं:

  • वही पाथ, जैसे /v1/chat/completions और /v1/audio/transcriptions;
  • वही JSON फ़ॉर्मैट: अंदर messages array, बाहर choices[0].message.content, और टोकन गिनती वाला usage ब्लॉक;
  • Authorization: Bearer <key> के रूप में भेजी गई API key;
  • stream के true होने पर server-sent events के रूप में स्ट्रीमिंग।

स्विच करना बस कॉन्फ़िगरेशन का बदलाव है। आधिकारिक Python SDK के साथ:

from openai import OpenAI
import os

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)

OpenAI के उदाहरण से सिर्फ़ तीन वैल्यू बदलीं: base URL, key और मॉडल ID।

यह क्यों मायने रखता है

compatibility से स्विच करने की लागत घटती है। OpenAI फ़ॉर्मैट समझने वाले SDK, एजेंट फ़्रेमवर्क, IDE प्लगइन और राउटर बिना नए कोड के चलते हैं। आप दूसरा प्रोवाइडर मिनटों में टेस्ट कर सकते हैं और बदलने का विकल्प खुला रख सकते हैं।

लेकिन compatible का मतलब एक जैसा नहीं। उदाहरण के लिए Anthropic की अपनी compatibility लेयर टूल पर strict को अनदेखा करती है और prompt_tokens_details ख़ाली छोड़ती है। आम अंतर ये हैं:

  • पैरामीटर जो अनदेखे या अस्वीकार होते हैं;
  • रीज़निंग टोकन max_tokens में कैसे गिने जाते हैं;
  • स्ट्रीम के आख़िर में usage रिपोर्ट होता है या नहीं;
  • रेट लिमिट और एरर कोड।

BroadNet Inference पर

BroadNet Inference https://inference.broadnet.ai/v1 पर POST /v1/chat/completions, POST /v1/audio/transcriptions और GET /v1/models देता है। key सिर्फ़ Authorization: Bearer <key> के रूप में भेजी जाती हैं। Python और Node गाइड पूरा सेटअप दिखाती हैं, और LangChain भी इसी तरह चलता है।

दो अंतरों के लिए पहले से तैयारी करें: DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं, और रीज़निंग max_tokens में गिनी जाती है। और उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोधों की अनुमति देती है। बाक़ी बातें माइग्रेशन चेकलिस्ट में हैं।

आम ग़लतियाँ

  • gpt-6-astra (OpenAI के मॉडल पेज पर उसका फ़्लैगशिप, 2026-11-15 को जाँचा गया) जैसा OpenAI मॉडल नाम रखे रहना। प्रोवाइडर का मॉडल ID इस्तेमाल करें।
  • यह मान लेना कि अनुरोध सफल हुआ तो पैरामीटर भी चला। कुछ प्रोवाइडर अनजान फ़ील्ड चुपचाप अनदेखा कर देते हैं।

अक्सर पूछे जाने वाले सवाल

क्या OpenAI-compatible का मतलब है कि OpenAI का हर फ़ीचर चलेगा?

नहीं। इसका मतलब है कि मुख्य अनुरोध और रिस्पॉन्स फ़ॉर्मैट मेल खाते हैं। अलग-अलग फ़ील्ड अनदेखी या अस्वीकार हो सकती हैं। उदाहरण के लिए Anthropic की compatibility लेयर उन फ़ील्ड को डॉक्यूमेंट करती है जिन्हें वह अनदेखा करती है, और उन्हें भी जिन पर 400 एरर आता है। किसी पैरामीटर पर भरोसा करने से पहले प्रोवाइडर की सूची पढ़ें।

क्या मुझे कोई अलग SDK चाहिए?

नहीं। OpenAI के आधिकारिक SDK कस्टम base URL लेते हैं। Python में base_url पास करें, Node में baseURL, या OPENAI_BASE_URL एनवायरनमेंट वेरिएबल सेट करें।

BroadNet Inference कौन-से एंडपॉइंट सपोर्ट करता है?

चैट के लिए POST /v1/chat/completions और स्पीच-टू-टेक्स्ट के लिए POST /v1/audio/transcriptions। GET /v1/models भी मौजूद है; BroadNet के डॉक्स इसे बाहरी मॉनिटर के लिए सार्वजनिक कैटलॉग मेटाडेटा बताते हैं, इसलिए अनुरोधों के मॉडल ID API रेफ़रंस से लें।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें