OpenAI Agents SDK, टूल, हैंडऑफ़ और गार्डरेल वाले एजेंट बनाने का Python फ़्रेमवर्क है। इसके डॉक्स बताते हैं कि non-OpenAI प्रोवाइडर कैसे जोड़ें। BroadNet Inference जैसे OpenAI-कम्पैटिबल API के लिए आप SDK को अपना AsyncOpenAI क्लाइंट देते हैं और Chat Completions वाली मॉडल क्लास इस्तेमाल करते हैं। SDK डिफ़ॉल्ट रूप से Responses API इस्तेमाल करता है, जिसे कई प्रोवाइडर नहीं देते।
सेटअप
- SDK इंस्टॉल करें। इसके लिए Python 3.10 या नया वर्शन चाहिए।
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
- क्लाइंट, मॉडल और एजेंट बनाएँ।
import asyncio
import os
from agents import (
Agent,
AsyncOpenAI,
OpenAIChatCompletionsModel,
Runner,
function_tool,
set_tracing_disabled,
)
set_tracing_disabled(disabled=True) # tracing needs a platform.openai.com key
client = AsyncOpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)
@function_tool
def get_order_status(order_id: str) -> str:
"""Look up an order."""
return f"Order {order_id}: shipped"
agent = Agent(
name="Support agent",
instructions="Answer briefly. Use tools when you need order data.",
model=model,
tools=[get_order_status],
)
async def main():
result = await Runner.run(agent, "Where is order 4471?")
print(result.final_output)
asyncio.run(main())
- इसे चलाएँ। एजेंट को
get_order_statusकॉल करना चाहिए और उसके नतीजे से जवाब देना चाहिए।
प्रोवाइडर जोड़ने के तीन तरीक़े
SDK के डॉक्स ये बिल्ट-इन विकल्प बताते हैं:
- हर एजेंट के लिए: ऊपर की तरह
OpenAIChatCompletionsModelकोAgent.modelके रूप में दें। यह तब काम का है जब अलग-अलग एजेंट अलग-अलग प्रोवाइडर इस्तेमाल करते हों। - ग्लोबल डिफ़ॉल्ट:
set_default_openai_client(client)आपके क्लाइंट को डिफ़ॉल्ट बना देता है। इसके साथset_default_openai_api("chat_completions")भी लगाएँ। - हर रन के लिए:
RunConfig(model_provider=...)में एक कस्टमModelProviderदें।
ग्लोबल डिफ़ॉल्ट ऐसा दिखता है:
import os
from agents import (
Agent,
AsyncOpenAI,
set_default_openai_api,
set_default_openai_client,
set_tracing_disabled,
)
client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)
agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")
सिर्फ़ एनवायरनमेंट वेरिएबल से काम चलाना हो, तो OPENAI_BASE_URL=https://inference.broadnet.ai/v1 और OPENAI_API_KEY को अपनी BroadNet key पर सेट करें, फिर वही set_default_openai_api और set_tracing_disabled कॉल करें।
SDK के डॉक्स कहते हैं कि Chat Completions के ज़रिए चलाने पर वह सिर्फ़ Responses वाले फ़ील्ड, जैसे previous_response_id, conversation_id और prompt, बिना बताए छोड़ देता है। इसकी जगह एरर पाने के लिए OpenAIProvider पर strict_feature_validation=True सेट करें। बातचीत की स्थिति अपने कोड में रखें, उदाहरण के लिए पिछले नतीजे की इनपुट लिस्ट अगले रन में देकर। OpenAI के होस्टेड टूल, जैसे वेब सर्च और फ़ाइल सर्च, दूसरे प्रोवाइडरों पर मौजूद नहीं हैं। एजेंट जो भी कॉल करे, उसके लिए function_tool इस्तेमाल करें।
ट्रेसिंग
ट्रेसिंग डिफ़ॉल्ट रूप से चालू रहती है और ट्रेस OpenAI को भेजती है। SDK के डॉक्स कहते हैं कि platform.openai.com की API key न हो तो इसे set_tracing_disabled() से बंद करें या कोई दूसरा ट्रेसिंग प्रोसेसर सेट करें। अगर आपके पास OpenAI key है, तो आप ट्रेसिंग चालू रख सकते हैं और वह key set_tracing_export_api_key(...) से दे सकते हैं। SDK उसे सिर्फ़ ट्रेस अपलोड करने के लिए इस्तेमाल करता है। आपकी BroadNet key इसके लिए काम नहीं करेगी।
कौन-सा मॉडल चुनें
| एजेंट का प्रकार | मॉडल | नोट |
|---|---|---|
| टूल इस्तेमाल करने वाले एजेंट | GLM 5.3 | टूल और स्ट्रक्चर्ड आउटपुट सूचीबद्ध; 1M कॉन्टेक्स्ट |
| टूल के साथ इमेज इनपुट | Qwen3.8 27B | 262K कॉन्टेक्स्ट; अरबी में टेस्ट किया गया |
| फ़्लैट रेट पर लंबे चलने वाले एजेंट | DeepSeek V4.1 Flash | अनलिमिटेड प्लान; BroadNet टूल सूचीबद्ध नहीं करता |
SDK के डॉक्स चेतावनी देते हैं कि कुछ प्रोवाइडर JSON-schema वाले स्ट्रक्चर्ड आउटपुट सपोर्ट नहीं करते। अगर आप किसी एजेंट पर output_type सेट करते हैं, तो GLM 5.3 या Qwen3.8 27B इस्तेमाल करें। कीमतों की तुलना प्राइसिंग पेज पर करें।
समस्या निवारण
- 401. BroadNet key ग़लत है, एक्सपायर हो चुकी है, या उपयोग के अनुसार भुगतान वाली सीमा ख़त्म हो गई है। लॉग में ट्रेसिंग की एरर अलग बात है: उनका मतलब है कि ट्रेसिंग अब भी बिना OpenAI key के चालू है।
- 404 या “not found”. शायद आप Responses API पर हैं।
OpenAIChatCompletionsModelयाset_default_openai_api("chat_completions")इस्तेमाल करें। अगर वह सेट है, तो जाँचें कि मॉडल ID बिल्कुल BroadNet वाले ID जैसा है। पेड मॉडल के लिए टॉप-अप चाहिए; $5 का क्रेडिट Gemma 4 VL 26B और दो Transcribe मॉडल को कवर करता है। - ख़ाली
final_output. रीज़निंगmax_tokensमें गिनी जाती है। अगर आपनेModelSettings(max_tokens=...)सेट किया है, तो उसे बढ़ाएँ। जवाब ख़ाली क्यों आते हैं। - 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 अनुरोधों की अनुमति देती है। हर टूल राउंड-ट्रिप एक नया अनुरोध है। एरर और रीट्राई देखें।
- प्लान पर समानांतर एजेंट. एक अनलिमिटेड प्लान सेशन एक समय में एक ही अनुरोध चलाता है।
asyncio.gatherसे एक साथ शुरू किए गए एजेंटों को हर एक के लिए अलग सेशन चाहिए, वरना वे क़तार में लगते हैं। फ़्लैट रेट पर समानांतर एजेंट चलाने के बारे में पढ़ें।
