---
title: "Pydantic AI में कस्टम OpenAI-कम्पैटिबल base_url | BroadRouter"
description: "OpenAIChatModel और OpenAICompatibleProvider से BroadNet Inference पर Pydantic AI एजेंट चलाएँ, साथ में टूल कॉल, स्ट्रक्चर्ड आउटपुट और मॉडल प्रोफ़ाइल के समाधान।"
url: https://broadrouter.com/hi/guides/pydantic-ai-openai-compatible/
lang: hi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/guides/pydantic-ai-openai-compatible/) (2026-11-16 को अपडेट किया गया).

# BroadNet Inference के साथ Pydantic AI (OpenAICompatibleProvider)

अपडेट किया गया 2026-11-16

pydantic-ai-slim\[openai\] इंस्टॉल करें, फिर broadnet/glm-5.3 जैसे BroadNet मॉडल ID और ऐसे OpenAICompatibleProvider के साथ OpenAIChatModel बनाएँ, जिसका base URL https://inference.broadnet.ai/v1 और API key आपकी BroadNet key हो। मॉडल को Agent में दें। Responses मॉडल नहीं, OpenAIChatModel इस्तेमाल करें, क्योंकि BroadNet chat completions देता है। Pydantic AI के डॉक्स कहते हैं कि base\_url वाला OpenAIProvider ख़ुद OpenAI के लिए है।

Pydantic AI, Pydantic टीम का Python एजेंट फ़्रेमवर्क है। जिस सेवा के लिए इसमें बिल्ट-इन प्रोवाइडर नहीं है, उसके लिए इसके डॉक्स उस सेवा के `base_url` के साथ `OpenAICompatibleProvider` इस्तेमाल करने को कहते हैं। BroadNet Inference `https://inference.broadnet.ai/v1` पर स्टैंडर्ड chat completions देता है, इसलिए यही रास्ता है। BroadRouter, BroadNet की अपनी साइट है। यह गाइड वर्ज़न 2.68 के समय के Pydantic AI डॉक्स के अनुसार है।

## इंस्टॉल करें

```bash
pip install "pydantic-ai-slim[openai]"
export BROADNET_API_KEY='your-broadnet-key'
```

## कनेक्ट करें

```python
import os
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai_compatible import OpenAICompatibleProvider

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider(
        'broadnet',
        base_url='https://inference.broadnet.ai/v1',
        api_key=os.environ['BROADNET_API_KEY'],
    ),
)

agent = Agent(model)
result = agent.run_sync('Give me three names for a Go linting tool.')
print(result.output)
```

इसे चलाना ही टेस्ट है: जवाब प्रिंट हो जाए, तो key, URL और मॉडल ID सही हैं।

-   **पहला आर्ग्युमेंट मॉडल ID है**, जो BroadNet को भेजा जाता है। इसे बिल्कुल वैसा ही, `broadnet/` प्रीफ़िक्स के साथ इस्तेमाल करें।
-   **प्रोवाइडर का नाम** (यहाँ `'broadnet'`) हर रिस्पॉन्स पर दर्ज होता है। Pydantic AI के डॉक्स इसे स्थिर रखने को कहते हैं, क्योंकि इसी से तय होता है कि पिछले रिस्पॉन्स का कौन-सा डेटा सेवा को वापस भेजा जाए।
-   **`OpenAIChatModel` पर ही रहें।** Pydantic AI के डॉक्स कहते हैं कि `OpenAIResponsesModel` तभी इस्तेमाल करें जब सेवा Responses API लागू करती हो। BroadNet इसे सूचीबद्ध नहीं करता।

## टूल और स्ट्रक्चर्ड आउटपुट

```python
from pydantic import BaseModel

class City(BaseModel):
    name: str
    country: str

agent = Agent(model, output_type=City)
print(agent.run_sync('Which city hosts the Burj Khalifa?').output)
```

टूल और स्ट्रक्चर्ड आउटपुट के लिए `broadnet/glm-5.3` या `broadnet/qwen3.8-27b` इस्तेमाल करें; BroadNet के डॉक्स ये दोनों फ़ीचर सिर्फ़ इन्हीं दो मॉडलों के लिए सूचीबद्ध करते हैं।

## मॉडल प्रोफ़ाइल कब सेट करें

Pydantic AI, मॉडल के नाम से अनुरोध की प्रोफ़ाइल चुनता है। अगर कोई फ़ीचर अनदेखा होता है या अस्वीकार होता है, तो इसके डॉक्स अपनी `OpenAIModelProfile` देने को कहते हैं। BroadNet के लिए दो सेटिंग जानने लायक़ हैं:

```python
from pydantic_ai.profiles.openai import OpenAIModelProfile

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider('broadnet', base_url='https://inference.broadnet.ai/v1', api_key=os.environ['BROADNET_API_KEY']),
    profile=OpenAIModelProfile(
        openai_chat_supports_max_completion_tokens=False,  # send max_tokens, the field BroadNet documents
        openai_supports_strict_tool_definition=False,      # only if strict tool schemas are rejected
    ),
)
```

आउटपुट सीमा मॉडल सेटिंग के ज़रिए दें, उदाहरण के लिए `agent.run_sync(prompt, model_settings={'max_tokens': 2000})`। DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B पर रीज़निंग इसमें गिनी जाती है।

## कौन-सा मॉडल चुनें

| एजेंट | मॉडल |
| --- | --- |
| टूल, स्ट्रक्चर्ड आउटपुट | `broadnet/glm-5.3` |
| टूल के साथ इमेज या अरबी टेक्स्ट | `broadnet/qwen3.8-27b` |
| लंबे दस्तावेज़, फ़्लैट-प्राइस प्लान | `broadnet/deepseek-v4.1-flash` |
| मुफ़्त शुरुआती क्रेडिट | `broadnet/gemma-4-26b-a4b` (32,768 टोकन का कॉन्टेक्स्ट) |

[हर मॉडल की कीमतें](https://broadrouter.com/hi/pricing/)।

## समस्या निवारण

-   **401.** key ग़लत है, एक्सपायर हो चुकी है या उसकी सीमा ख़त्म हो गई है।
-   **404 या मॉडल नहीं मिला.** `base_url` का अंत `/v1` पर होना चाहिए। मॉडल ID जाँचें। पेड मॉडल के लिए टॉप-अप चाहिए; $5 का क्रेडिट सिर्फ़ `broadnet/gemma-4-26b-a4b` और दो Transcribe मॉडल को कवर करता है।
-   **ख़ाली आउटपुट या वैलिडेशन रीट्राई का लूप.** रीज़निंग ने आउटपुट बजट ख़र्च कर दिया। `max_tokens` बढ़ाएँ। [जवाब ख़ाली क्यों आते हैं](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)।
-   **टूल डेफ़िनिशन पर 400.** प्रोफ़ाइल में `openai_supports_strict_tool_definition=False` सेट करें, और ऐसा मॉडल इस्तेमाल करें जिसे BroadNet टूल के साथ सूचीबद्ध करता है।
-   **एजेंट एक साथ चलाने पर 429.** उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोधों की अनुमति देती है। [एरर और रीट्राई](https://broadrouter.com/hi/guides/errors-and-retries/) देखें।

## इस गाइड के शब्द

[उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/)

उपयोग के अनुसार भुगतान (pay-as-you-go) एक प्राइसिंग मॉडल है जिसमें आप सिर्फ़ उतना देते हैं जितना इस्तेमाल करते हैं, जिसे टोकन, अनुरोध या ऑडियो मिनट जैसी इकाइयों में मापा जाता है, बिना सब्सक्रिप्शन या न्यूनतम प्रतिबद्धता के। ज़्यादातर LLM API इसी तरह बिल बनाते हैं, प्रीपेड बैलेंस या समय-समय पर बनने वाले इनवॉइस से।

[स्ट्रक्चर्ड आउटपुट (structured output)](https://broadrouter.com/hi/glossary/structured-output/)

स्ट्रक्चर्ड आउटपुट LLM API का एक फ़ीचर है जो मॉडल के जवाब को डेवलपर के तय फ़ॉर्मैट, आम तौर पर JSON Schema, तक सीमित करता है, ताकि कोड उसे भरोसे से पार्स कर सके। यह JSON mode से सख़्त है, जो मान्य JSON की गारंटी देता है, लेकिन किसी ख़ास ढाँचे की नहीं।

[AI एजेंट (AI agent)](https://broadrouter.com/hi/glossary/agent/)

AI एजेंट ऐसा सिस्टम है जिसमें लैंग्वेज मॉडल किसी लक्ष्य की ओर अपने क़दम ख़ुद तय करता है: कौन-से टूल कॉल करने हैं, चुनता है, नतीजे पढ़ता है और अंतिम जवाब या किसी सीमा तक दोहराता रहता है। तय बिंदुओं पर मॉडल को कॉल करने वाली स्क्रिप्ट को आम तौर पर workflow कहते हैं।

[कॉन्करेंसी (concurrency)](https://broadrouter.com/hi/glossary/concurrency/)

कॉन्करेंसी, किसी क्लाइंट के एक ही समय पर चल रहे (in-flight) अनुरोधों की संख्या है। LLM API अक्सर इसकी सीमा हर key या प्लान पर, प्रति मिनट अनुरोधों से अलग रखते हैं, क्योंकि हर खुला अनुरोध जवाब पूरा होने तक GPU क्षमता घेरे रहता है।

[टोकन (token)](https://broadrouter.com/hi/glossary/token/)

टोकन टेक्स्ट की वह इकाई है जिसे लैंग्वेज मॉडल पढ़ता और लिखता है: कोई शब्द, शब्द का हिस्सा, विराम चिह्न या बाइट का क्रम, जो मॉडल का टोकनाइज़र बनाता है। LLM API इस्तेमाल को टोकन में गिनते हैं, उसी में लिमिट लगाते हैं और आम तौर पर बिल भी बनाते हैं।

[प्रीपेड क्रेडिट (prepaid credit)](https://broadrouter.com/hi/glossary/prepaid-credit/)

प्रीपेड क्रेडिट वह पैसा है जो इस्तेमाल से पहले API अकाउंट में डाला जाता है। हर अनुरोध की लागत बैलेंस से कटती है, और बैलेंस ख़त्म होने पर मीटर वाले अनुरोध तब तक रुक जाते हैं जब तक आप टॉप-अप न करें। इससे खर्च उतने तक सीमित रहता है जितना आपने जमा किया है।

[रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/)

रेट लिमिट वह सीमा है जो कोई API तय करता है कि एक क्लाइंट किसी समय-अवधि में उसका कितना इस्तेमाल कर सकता है, जैसे प्रति मिनट अनुरोध या प्रति मिनट टोकन। सीमा से ऊपर के अनुरोध ठुकरा दिए जाते हैं, आम तौर पर HTTP 429 Too Many Requests के साथ, जब तक इस्तेमाल फिर सीमा के नीचे न आ जाए।

[Chat Completions API](https://broadrouter.com/hi/glossary/chat-completions-api/)

Chat Completions API, OpenAI का HTTP एंडपॉइंट POST /v1/chat/completions है, जो एक मॉडल का नाम और रोल वाले मैसेज की सूची लेता है और मॉडल का अगला मैसेज लौटाता है। इसके अनुरोध और जवाब का ढाँचा वह आम फ़ॉर्मैट बन गया जिसे OpenAI-कम्पैटिबल प्रोवाइडर और SDK अपनाते हैं।

## अक्सर पूछे जाने वाले सवाल

### BroadNet के लिए OpenAIProvider इस्तेमाल करूँ या OpenAICompatibleProvider?

OpenAICompatibleProvider। Pydantic AI के डॉक्स कहते हैं कि OpenAIProvider भी base\_url लेता है, लेकिन वह ख़ुद OpenAI या उस तक जाने वाले transparent proxy के लिए है, और OpenAI के मॉडल और फ़ीचर मानकर चलता है।

### डिफ़ॉल्ट OpenAI मॉडल की जगह OpenAIChatModel क्यों?

Pydantic AI का डिफ़ॉल्ट OpenAI मॉडल Responses API इस्तेमाल करता है। BroadNet, /v1/chat/completions पर chat completions देता है, और OpenAIChatModel वही कॉल करता है।

### क्या टूल और स्ट्रक्चर्ड आउटपुट काम करते हैं?

हाँ, उन मॉडलों पर जिन्हें BroadNet टूल और स्ट्रक्चर्ड आउटपुट के साथ सूचीबद्ध करता है: GLM 5.3 और Qwen3.8 27B। BroadNet के डॉक्स DeepSeek V4.1 Flash के लिए टूल सूचीबद्ध नहीं करते, इसलिए टूल वाले एजेंट पहले उस पर टेस्ट करें।

### Pydantic AI को max\_completion\_tokens भेजने से कैसे रोकूँ?

OpenAIChatModel को profile=OpenAIModelProfile(openai\_chat\_supports\_max\_completion\_tokens=False) दें। तब Pydantic AI पुराना max\_tokens फ़ील्ड भेजता है, जिसे BroadNet का API रेफ़रंस बताता है।

## संबंधित गाइड

-   [BroadNet Inference के साथ OpenAI Python SDK इस्तेमाल करें](https://broadrouter.com/hi/guides/openai-python-sdk/)
-   [BroadNet Inference के साथ LangChain इस्तेमाल करें](https://broadrouter.com/hi/guides/langchain-openai-base-url/)
-   [CrewAI में BroadNet Inference को कस्टम OpenAI एंडपॉइंट बनाएँ](https://broadrouter.com/hi/guides/crewai-custom-openai-endpoint/)
-   [रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाता है](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference के साथ काम करने वाले सभी टूल (अंग्रेज़ी में)](https://broadrouter.com/integrations/): SDK, कोडिंग एजेंट, चैट UI और ऑटोमेशन टूल, हर एक की सटीक सेटिंग के साथ

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-pydantic-ai-openai-compatible&utm_content=page-cta) ·

**स्रोत**

-   [Pydantic AI डॉक्स, Other compatible APIs (Other endpoints, Model profile) (2026-11-15 को जाँचा गया)](https://pydantic.dev/docs/ai/models/compatible-apis/)
-   [Pydantic AI डॉक्स, OpenAI models (2026-11-15 को जाँचा गया)](https://pydantic.dev/docs/ai/models/openai/)
-   [PyPI, pydantic-ai 2.68.0, Python 3.11+ (2026-11-15 को जाँचा गया)](https://pypi.org/project/pydantic-ai/)
-   [BroadNet Inference API रेफ़रंस (2026-11-15 को जाँचा गया) (अंग्रेज़ी में)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-pydantic-ai-openai-compatible&utm_content=sources)
