---
title: "smolagents OpenAIModel, कस्टम api_base के साथ | BroadRouter"
description: "Hugging Face smolagents को OpenAIModel और api_base से BroadNet Inference से जोड़ें: किसी भी मॉडल पर CodeAgent, या GLM 5.3 और Qwen3.8 27B पर ToolCallingAgent।"
url: https://broadrouter.com/hi/guides/smolagents-openai-compatible/
lang: hi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/guides/smolagents-openai-compatible/) (2026-11-16 को अपडेट किया गया).

# OpenAIModel के साथ smolagents को BroadNet Inference पर चलाएँ

अपडेट किया गया 2026-11-16

smolagents का OpenAIModel बनाएँ, model\_id को broadnet/glm-5.3 जैसे BroadNet ID, api\_base को https://inference.broadnet.ai/v1 और api\_key को अपनी BroadNet key पर रखकर, फिर उसे CodeAgent या ToolCallingAgent को दें। CodeAgent नेटिव टूल कॉल के बजाय Python लिखता है, इसलिए यह DeepSeek V4.1 Flash पर चल सकता है। ToolCallingAgent को GLM 5.3 या Qwen3.8 27B चाहिए।

smolagents, एजेंट के लिए Hugging Face की छोटी Python लाइब्रेरी है। इसकी `OpenAIModel` क्लास “connects to an OpenAI-compatible API server” (अनुवाद: OpenAI-कम्पैटिबल API सर्वर से जुड़ती है), URL के लिए `api_base` के साथ। BroadNet Inference `https://inference.broadnet.ai/v1` पर chat completions देता है, इसलिए यह सीधे काम करता है। BroadRouter, BroadNet की अपनी साइट है; यह गाइड smolagents 1.26.0 के डॉक्स पर आधारित है।

## इंस्टॉल करें

```bash
pip install smolagents
export BROADNET_API_KEY='your-broadnet-key'
```

## CodeAgent

```python
import os
from smolagents import OpenAIModel, CodeAgent

model = OpenAIModel(
    model_id="broadnet/deepseek-v4.1-flash",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)

agent = CodeAgent(tools=[], model=model)
print(agent.run("What is 6 * 7? Use Python to check."))
```

`CodeAgent` मॉडल से `<code>` टैग के बीच Python लिखने को कहता है और उसे लोकल मशीन पर चलाता है। अनुरोध एक सादा chat completion है, `</code>` जैसे stop sequence के साथ और बिना `tools` फ़ील्ड के। यानी यह नेटिव टूल कॉलिंग पर निर्भर नहीं, इसलिए यह `broadnet/deepseek-v4.1-flash` पर चल सकता है, जो BroadNet के [अनलिमिटेड प्लान](https://broadrouter.com/hi/guides/unlimited-llm-api-sessions/) वाला मॉडल है। कोड की क्वालिटी फिर भी मॉडल के हिसाब से बदलती है, इसलिए अपने काम पर टेस्ट करें।

CodeAgent वह कोड चलाता है जो मॉडल लिखता है। फ़ाइल, नेटवर्क या क्रेडेंशियल छूने वाले टूल देने से पहले smolagents की सुरक्षित कोड एक्ज़ीक्यूशन वाली गाइडेंस पढ़ें।

## ToolCallingAgent

```python
from smolagents import ToolCallingAgent, tool

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city.

    Args:
        city: The city name.
    """
    return f"21C in {city}"

model = OpenAIModel(
    model_id="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)
agent = ToolCallingAgent(tools=[get_weather], model=model)
print(agent.run("What's the weather in Riyadh?"))
```

`ToolCallingAgent` आपके टूल, और साथ में अपना `final_answer` टूल, `tool_choice: "required"` के साथ फ़ंक्शन स्कीमा के रूप में भेजता है। `broadnet/glm-5.3` या `broadnet/qwen3.8-27b` इस्तेमाल करें; BroadNet के डॉक्स सिर्फ़ इन दो मॉडल के लिए टूल सूचीबद्ध करते हैं।

## कौन-सा मॉडल चुनें

| एजेंट | मॉडल |
| --- | --- |
| `CodeAgent`, फ़्लैट-प्राइस प्लान पर लंबे रन | `broadnet/deepseek-v4.1-flash` |
| `ToolCallingAgent` | `broadnet/glm-5.3` |
| इमेज इनपुट के साथ कोई भी एजेंट | `broadnet/qwen3.8-27b` |

एक प्लान सेशन एक समय में एक अनुरोध चलाता है, और एजेंट अपने स्टेप एक के बाद एक भेजता है, इसलिए एक सेशन एक एजेंट के लिए ठीक है। [हर मॉडल की कीमतें](https://broadrouter.com/hi/pricing/)।

## हमने इसे कैसे टेस्ट किया

2026-11-15 को हमने एक साफ़ वर्चुअल एनवायरनमेंट में smolagents 1.26.0 इंस्टॉल किया और दोनों एजेंट एक लोकल मॉक सर्वर पर चलाए, जो BroadNet के chat-completions ढाँचे में जवाब देता है। DeepSeek ID पर `CodeAgent` को कोड वाला जवाब मिला, उसने उसे चलाया और 42 लौटाया। इसके अनुरोधों में `max_tokens: 4000`, stop sequence थे और कोई टूल नहीं था। `ToolCallingAgent` के लिए हमने अनुरोध का ढाँचा जाँचा: मॉडल ID बिना बदलाव के भेजा गया, दोनों टूल स्कीमा और `tool_choice: "required"` के साथ। smolagents टूल के नतीजे user मैसेज के रूप में वापस भेजता है। हमारा मॉक उस फ़ॉर्मैट को फ़ॉलो नहीं करता था, इसलिए हमने उस एजेंट को अंतिम जवाब तक नहीं चलाया। हमारे पास BroadNet key नहीं थी, इसलिए हमने असली मॉडल आउटपुट टेस्ट नहीं किया।

## समस्या का समाधान

-   **401.** key ग़लत है, एक्सपायर हो गई है या अलाउंस ख़त्म हो गया है।
-   **404.** `api_base` `/v1` पर ख़त्म होना चाहिए। मॉडल ID जाँचें। पेड मॉडल के लिए टॉप-अप चाहिए; $5 क्रेडिट सिर्फ़ `broadnet/gemma-4-26b-a4b` और दो Transcribe मॉडल को कवर करता है।
-   **“Make sure to provide correct code blobs”.** मॉडल के जवाब में कोई कोड ब्लॉक नहीं था। `max_tokens` बढ़ाएँ, क्योंकि रीज़निंग उसमें गिनी जाती है, या कोई दूसरा मॉडल आज़माएँ। [जवाब ख़ाली क्यों आते हैं](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)।
-   **ToolCallingAgent कभी ख़त्म नहीं होता।** `broadnet/glm-5.3` या `broadnet/qwen3.8-27b` पर जाएँ।
-   **429.** उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध की अनुमति देती है। smolagents `requests_per_minute` से ख़ुद की रफ़्तार सीमित कर सकता है। [एरर और रीट्राई](https://broadrouter.com/hi/guides/errors-and-retries/) देखें।

## इस गाइड के शब्द

[AI एजेंट (AI agent)](https://broadrouter.com/hi/glossary/agent/)

AI एजेंट ऐसा सिस्टम है जिसमें लैंग्वेज मॉडल किसी लक्ष्य की ओर अपने क़दम ख़ुद तय करता है: कौन-से टूल कॉल करने हैं, चुनता है, नतीजे पढ़ता है और अंतिम जवाब या किसी सीमा तक दोहराता रहता है। तय बिंदुओं पर मॉडल को कॉल करने वाली स्क्रिप्ट को आम तौर पर workflow कहते हैं।

[उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/)

उपयोग के अनुसार भुगतान (pay-as-you-go) एक प्राइसिंग मॉडल है जिसमें आप सिर्फ़ उतना देते हैं जितना इस्तेमाल करते हैं, जिसे टोकन, अनुरोध या ऑडियो मिनट जैसी इकाइयों में मापा जाता है, बिना सब्सक्रिप्शन या न्यूनतम प्रतिबद्धता के। ज़्यादातर LLM API इसी तरह बिल बनाते हैं, प्रीपेड बैलेंस या समय-समय पर बनने वाले इनवॉइस से।

[स्टॉप सीक्वेंस (stop sequences)](https://broadrouter.com/hi/glossary/stop-sequences/)

स्टॉप सीक्वेंस वे स्ट्रिंग हैं जो आप अनुरोध के साथ भेजते हैं, ताकि मॉडल इनमें से कोई भी लिखते ही जनरेशन रोक दे। OpenAI इस फ़ील्ड को stop कहता है और 4 सीक्वेंस तक लेता है; Anthropic इसे stop\_sequences कहता है। मिला हुआ टेक्स्ट आम तौर पर लौटाए गए आउटपुट में नहीं होता।

[टूल कॉलिंग (tool calling)](https://broadrouter.com/hi/glossary/tool-calling/)

टूल कॉलिंग, जिसे function calling भी कहते हैं, LLM API की वह सुविधा है जिसमें मॉडल डेवलपर के तय किए किसी फ़ंक्शन को चलाने का एक स्ट्रक्चर्ड अनुरोध, JSON आर्ग्युमेंट के साथ, लौटाता है। ऐप्लिकेशन फ़ंक्शन चलाकर नतीजा वापस भेजता है; मॉडल ख़ुद कभी कोड नहीं चलाता।

[प्रीपेड क्रेडिट (prepaid credit)](https://broadrouter.com/hi/glossary/prepaid-credit/)

प्रीपेड क्रेडिट वह पैसा है जो इस्तेमाल से पहले API अकाउंट में डाला जाता है। हर अनुरोध की लागत बैलेंस से कटती है, और बैलेंस ख़त्म होने पर मीटर वाले अनुरोध तब तक रुक जाते हैं जब तक आप टॉप-अप न करें। इससे खर्च उतने तक सीमित रहता है जितना आपने जमा किया है।

[रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/)

रेट लिमिट वह सीमा है जो कोई API तय करता है कि एक क्लाइंट किसी समय-अवधि में उसका कितना इस्तेमाल कर सकता है, जैसे प्रति मिनट अनुरोध या प्रति मिनट टोकन। सीमा से ऊपर के अनुरोध ठुकरा दिए जाते हैं, आम तौर पर HTTP 429 Too Many Requests के साथ, जब तक इस्तेमाल फिर सीमा के नीचे न आ जाए।

[Chat Completions API](https://broadrouter.com/hi/glossary/chat-completions-api/)

Chat Completions API, OpenAI का HTTP एंडपॉइंट POST /v1/chat/completions है, जो एक मॉडल का नाम और रोल वाले मैसेज की सूची लेता है और मॉडल का अगला मैसेज लौटाता है। इसके अनुरोध और जवाब का ढाँचा वह आम फ़ॉर्मैट बन गया जिसे OpenAI-कम्पैटिबल प्रोवाइडर और SDK अपनाते हैं।

[OpenAI-compatible API](https://broadrouter.com/hi/glossary/openai-compatible-api/)

OpenAI-compatible API ऐसा HTTP API है जो OpenAI API वाले ही अनुरोध और रिस्पॉन्स फ़ॉर्मैट स्वीकार करता है, जैसे POST /v1/chat/completions, ताकि OpenAI के SDK और टूल सिर्फ़ base URL, API key और मॉडल का नाम बदलकर इसे इस्तेमाल कर सकें।

## अक्सर पूछे जाने वाले सवाल

### OpenAIModel इस्तेमाल करें या OpenAIServerModel?

smolagents 1.26 किसी भी OpenAI-कम्पैटिबल सर्वर के लिए OpenAIModel डॉक्यूमेंट करता है। पैकेज अब भी OpenAIServerModel एक्सपोर्ट करता है, पर डॉक्स OpenAIModel बताते हैं।

### क्या smolagents BroadNet के अनलिमिटेड प्लान पर चल सकता है?

प्लान DeepSeek V4.1 Flash को कवर करते हैं। BroadNet इसके लिए टूल कॉलिंग सूचीबद्ध नहीं करता, पर CodeAgent को नेटिव टूल कॉल की ज़रूरत नहीं; यह मॉडल से Python कोड माँगता है। हमारे मॉक टेस्ट में DeepSeek ID पर चल रहे CodeAgent ने बिना tools फ़ील्ड के सादे चैट अनुरोध भेजे।

### ToolCallingAgent को GLM 5.3 या Qwen3.8 27B क्यों चाहिए?

यह टूल को OpenAI फ़ंक्शन स्कीमा के रूप में भेजता है, tool\_choice को required पर रखकर। BroadNet के डॉक्स सिर्फ़ GLM 5.3 और Qwen3.8 27B के लिए टूल सूचीबद्ध करते हैं।

### max\_tokens या temperature कैसे पास करें?

OpenAIModel को कीवर्ड आर्ग्युमेंट के रूप में। smolagents के डॉक्स कहते हैं कि अतिरिक्त आर्ग्युमेंट हर completion कॉल को आगे भेजे जाते हैं। हमारे टेस्ट में हर अनुरोध पर max\_tokens=4000 भेजा गया।

## संबंधित गाइड

-   [BroadNet Inference के साथ OpenAI Python SDK इस्तेमाल करें](https://broadrouter.com/hi/guides/openai-python-sdk/)
-   [एजेंट के लिए अनलिमिटेड LLM API प्लान कैसे काम करते हैं](https://broadrouter.com/hi/guides/unlimited-llm-api-sessions/)
-   [रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाता है](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference के एरर कोड और रीट्राई कब करें](https://broadrouter.com/hi/guides/errors-and-retries/)
-   [BroadNet Inference के साथ काम करने वाले सभी टूल (अंग्रेज़ी में)](https://broadrouter.com/integrations/): SDK, कोडिंग एजेंट, चैट UI और ऑटोमेशन टूल, हर एक की सटीक सेटिंग के साथ

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-smolagents-openai-compatible&utm_content=page-cta) ·

**स्रोत**

-   [smolagents डॉक्स v1.26.0, Models रेफ़रंस (OpenAIModel) (2026-11-15 को जाँचा गया)](https://huggingface.co/docs/smolagents/reference/models)
-   [PyPI, smolagents 1.26.0 (2026-11-15 को जाँचा गया)](https://pypi.org/project/smolagents/)
-   [BroadNet Inference API रेफ़रंस (2026-11-15 को जाँचा गया) (अंग्रेज़ी में)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-smolagents-openai-compatible&utm_content=sources)
