---
title: "OpenAI Python SDK में कस्टम base_url (BroadNet) | BroadRouter"
description: "सिर्फ़ base_url बदलकर आधिकारिक OpenAI Python SDK को BroadNet Inference से जोड़ें। इंस्टॉल करें, key सेट करें, पहला अनुरोध भेजें और जवाब स्ट्रीम करें।"
url: https://broadrouter.com/hi/guides/openai-python-sdk/
lang: hi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/guides/openai-python-sdk/) (2026-11-16 को अपडेट किया गया).

# BroadNet Inference के साथ OpenAI Python SDK इस्तेमाल करें

अपडेट किया गया 2026-11-16

openai पैकेज इंस्टॉल करें, फिर क्लाइंट बनाते समय base\_url को https://inference.broadnet.ai/v1 और api\_key को अपनी BroadNet key पर सेट करें। हर chat.completions कॉल बिना बदलाव के चलती है; सिर्फ़ मॉडल ID बदलता है, जैसे broadnet/deepseek-v4.1-flash। BroadNet, chat completions और ट्रांसक्रिप्शन देता है, Responses API नहीं।

आपको एक BroadNet Inference अकाउंट और एक इन्फ़रेंस key चाहिए। नए अकाउंट $5 क्रेडिट के साथ शुरू होते हैं, कार्ड की ज़रूरत नहीं; [inference.broadnet.ai पर अकाउंट बनाएँ](https://inference.broadnet.ai/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-openai-python-sdk&utm_content=body)। कंसोल key सिर्फ़ एक बार दिखाता है और सिर्फ़ उसका हैश सेव करता है, इसलिए उसे सीधे अपने एनवायरनमेंट में कॉपी करें।

## 1\. इंस्टॉल करें और key सेट करें

मौजूदा `openai` पैकेज (3.x) को Python 3.10 या नया वर्शन चाहिए।

```bash
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'
```

## 2\. पहला अनुरोध भेजें

इसे `first_request.py` नाम से सेव करें:

```python
from openai import OpenAI
import os

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)
```

इसे `python first_request.py` से चलाएँ। इस उदाहरण में `broadnet/gemma-4-26b-a4b` है, क्योंकि यह मुफ़्त क्रेडिट पर चलता है। बाक़ी चैट मॉडल टॉप-अप के बाद मिलते हैं।

## 3\. अपनी पसंद का मॉडल चुनें

सिर्फ़ `model` बदलें:

| आपको चाहिए | मॉडल ID |
| --- | --- |
| फ़्लैट प्लान पर अनलिमिटेड, 1M कॉन्टेक्स्ट | `broadnet/deepseek-v4.1-flash` |
| टूल और स्ट्रक्चर्ड आउटपुट, 1M कॉन्टेक्स्ट | `broadnet/glm-5.3` |
| अरबी टेक्स्ट और इमेज | `broadnet/qwen3.8-27b` |
| कम कीमत, मुफ़्त क्रेडिट पर चलता है | `broadnet/gemma-4-26b-a4b` |

DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं, और यह रीज़निंग `max_tokens` में गिनी जाती है। इन्हें 1,000 या ज़्यादा टोकन दें। [कम लिमिट पर ख़ाली जवाब क्यों आता है, यहाँ पढ़ें](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)।

## 4\. जवाब स्ट्रीम करें

```python
stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    stream=True,
    stream_options={"include_usage": True},
    messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\n", chunk.usage)
```

`include_usage` के साथ टोकन गिनतियाँ आख़िरी चंक में आती हैं, जिसमें `choices` नहीं होता। टूटे हुए कनेक्शन [स्ट्रीमिंग गाइड](https://broadrouter.com/hi/guides/streaming-chat-completions/) में कवर किए गए हैं।

## 5\. रिक्वेस्ट ID सँभालकर रखें

हर रिस्पॉन्स में `X-Request-ID` हेडर होता है। इसे लॉग करें, क्योंकि BroadNet सपोर्ट इसे माँगता है। पार्स किए गए रिस्पॉन्स में यह `response._request_id` के रूप में मिलता है। दूसरे हेडर के साथ पढ़ने के लिए:

```python
raw = client.chat.completions.with_raw_response.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()
```

उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोधों की अनुमति देती है। [हर एरर कोड का मतलब और कब रीट्राई करें](https://broadrouter.com/hi/guides/errors-and-retries/)।

## समस्या निवारण

-   **`AuthenticationError` (401).** key ग़लत है, एक्सपायर हो चुकी है, या उपयोग के अनुसार भुगतान वाली सीमा ख़त्म हो गई है। जाँचें कि आपका कोड चलाने वाले प्रोसेस में `BROADNET_API_KEY` सेट है।
-   **`NotFoundError` (404).** जाँचें कि `base_url` का अंत `/v1` पर है और आप `chat.completions` कॉल कर रहे हैं, `responses` नहीं। फिर `broadnet/` प्रीफ़िक्स समेत मॉडल ID जाँचें।
-   **नए अकाउंट पर पेड मॉडल फ़ेल होता है।** $5 का शुरुआती क्रेडिट BroadNet Gemma 4 VL 26B (`broadnet/gemma-4-26b-a4b`) और दोनों BroadNet Transcribe मॉडल को कवर करता है। बाक़ी चैट मॉडल, यानी DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B, इस्तेमाल करने के लिए टॉप-अप करें।
-   **ख़ाली `content`.** रीज़निंग `max_tokens` में गिनी जाती है। इसे 1,000 या ज़्यादा करें। [जवाब ख़ाली क्यों आते हैं](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)।
-   **`RateLimitError` (429).** आपने प्रति मिनट या एक साथ चलने वाले अनुरोधों की लिमिट पार कर दी। SDK डिफ़ॉल्ट रूप से दो बार रीट्राई करता है; इसे बदलने के लिए क्लाइंट पर `max_retries` सेट करें।
-   **अपग्रेड के बाद कस्टम HTTP क्लाइंट में एरर।** 3.x SDK, HTTPX2 इस्तेमाल करता है। अगर आप अपना `http_client` पास करते हैं, तो SDK की HTTPX2 माइग्रेशन गाइड देखें।

## इस गाइड के शब्द

[उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/)

उपयोग के अनुसार भुगतान (pay-as-you-go) एक प्राइसिंग मॉडल है जिसमें आप सिर्फ़ उतना देते हैं जितना इस्तेमाल करते हैं, जिसे टोकन, अनुरोध या ऑडियो मिनट जैसी इकाइयों में मापा जाता है, बिना सब्सक्रिप्शन या न्यूनतम प्रतिबद्धता के। ज़्यादातर LLM API इसी तरह बिल बनाते हैं, प्रीपेड बैलेंस या समय-समय पर बनने वाले इनवॉइस से।

[कॉन्करेंसी (concurrency)](https://broadrouter.com/hi/glossary/concurrency/)

कॉन्करेंसी, किसी क्लाइंट के एक ही समय पर चल रहे (in-flight) अनुरोधों की संख्या है। LLM API अक्सर इसकी सीमा हर key या प्लान पर, प्रति मिनट अनुरोधों से अलग रखते हैं, क्योंकि हर खुला अनुरोध जवाब पूरा होने तक GPU क्षमता घेरे रहता है।

[टोकन (token)](https://broadrouter.com/hi/glossary/token/)

टोकन टेक्स्ट की वह इकाई है जिसे लैंग्वेज मॉडल पढ़ता और लिखता है: कोई शब्द, शब्द का हिस्सा, विराम चिह्न या बाइट का क्रम, जो मॉडल का टोकनाइज़र बनाता है। LLM API इस्तेमाल को टोकन में गिनते हैं, उसी में लिमिट लगाते हैं और आम तौर पर बिल भी बनाते हैं।

[प्रीपेड क्रेडिट (prepaid credit)](https://broadrouter.com/hi/glossary/prepaid-credit/)

प्रीपेड क्रेडिट वह पैसा है जो इस्तेमाल से पहले API अकाउंट में डाला जाता है। हर अनुरोध की लागत बैलेंस से कटती है, और बैलेंस ख़त्म होने पर मीटर वाले अनुरोध तब तक रुक जाते हैं जब तक आप टॉप-अप न करें। इससे खर्च उतने तक सीमित रहता है जितना आपने जमा किया है।

[रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/)

रेट लिमिट वह सीमा है जो कोई API तय करता है कि एक क्लाइंट किसी समय-अवधि में उसका कितना इस्तेमाल कर सकता है, जैसे प्रति मिनट अनुरोध या प्रति मिनट टोकन। सीमा से ऊपर के अनुरोध ठुकरा दिए जाते हैं, आम तौर पर HTTP 429 Too Many Requests के साथ, जब तक इस्तेमाल फिर सीमा के नीचे न आ जाए।

[स्ट्रक्चर्ड आउटपुट (structured output)](https://broadrouter.com/hi/glossary/structured-output/)

स्ट्रक्चर्ड आउटपुट LLM API का एक फ़ीचर है जो मॉडल के जवाब को डेवलपर के तय फ़ॉर्मैट, आम तौर पर JSON Schema, तक सीमित करता है, ताकि कोड उसे भरोसे से पार्स कर सके। यह JSON mode से सख़्त है, जो मान्य JSON की गारंटी देता है, लेकिन किसी ख़ास ढाँचे की नहीं।

[स्ट्रीमिंग (streaming)](https://broadrouter.com/hi/glossary/streaming/)

स्ट्रीमिंग, लैंग्वेज मॉडल के जवाब को अंत में एक साथ लौटाने के बजाय, बनते समय ही छोटे-छोटे टुकड़ों (chunks) में लौटाने का तरीक़ा है। OpenAI-कम्पैटिबल API, अनुरोध में stream को true सेट करने पर server-sent events से स्ट्रीम करते हैं।

## अक्सर पूछे जाने वाले सवाल

### क्या मुझे कोई अलग SDK चाहिए?

नहीं। BroadNet Inference, OpenAI के chat-completions और audio-transcriptions वाले फ़ॉर्मैट समझता है, इसलिए आधिकारिक openai पैकेज सिर्फ़ अलग base\_url के साथ चल जाता है।

### क्या मैं OPENAI\_API\_KEY ही इस्तेमाल करता रह सकता हूँ?

कर सकते हैं, लेकिन अलग BROADNET\_API\_KEY वेरिएबल रखने से एक प्रोवाइडर की key ग़लती से दूसरे को भेजने का ख़तरा नहीं रहता।

### क्या SDK, OPENAI\_BASE\_URL पढ़ता है?

हाँ। अगर आप base\_url पास नहीं करते, तो क्लाइंट OPENAI\_BASE\_URL इस्तेमाल करता है। इसे https://inference.broadnet.ai/v1 पर और OPENAI\_API\_KEY को अपनी BroadNet key पर सेट करें, फिर OpenAI() को किसी आर्ग्युमेंट की ज़रूरत नहीं रहती।

### क्या मैं BroadNet के साथ client.responses.create इस्तेमाल कर सकता हूँ?

नहीं। SDK का README सबसे पहले Responses API दिखाता है, लेकिन BroadNet के डॉक्स में सिर्फ़ chat completions और audio transcriptions हैं। client.chat.completions.create इस्तेमाल करें।

## संबंधित गाइड

-   [BroadNet Inference के साथ OpenAI Node.js SDK इस्तेमाल करें](https://broadrouter.com/hi/guides/openai-node-sdk/)
-   [chat completions स्ट्रीम करें और टूटे कनेक्शन सँभालें](https://broadrouter.com/hi/guides/streaming-chat-completions/)
-   [रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाता है](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference के एरर कोड और रीट्राई कब करें](https://broadrouter.com/hi/guides/errors-and-retries/)

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-openai-python-sdk&utm_content=page-cta) ·

**स्रोत**

-   [BroadNet Inference API रेफ़रंस, पहला अनुरोध (अंग्रेज़ी में)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-openai-python-sdk&utm_content=sources#base-url)
-   [PyPI पर OpenAI Python लाइब्रेरी (3.x, Python 3.10+, 2026-11-14 को जाँचा गया)](https://pypi.org/project/openai/)
