एजेंट लूप में चलता मॉडल है: पूछो, टूल से कुछ करो, नतीजा पढ़ो, फिर से तय करो।
यह कैसे काम करता है
Anthropic दो डिज़ाइन अलग करता है। workflow वे “systems where LLMs and tools are orchestrated through predefined code paths” (अनुवाद: ऐसे सिस्टम जिनमें LLM और टूल पहले से तय कोड पाथ से चलाए जाते हैं) हैं। एजेंट वे सिस्टम हैं जिनमें “LLMs dynamically direct their own processes and tool usage” (अनुवाद: LLM अपनी प्रक्रिया और टूल के इस्तेमाल को ख़ुद, मौक़े के हिसाब से चलाते हैं)।
OpenAI Agents SDK लूप को ही डॉक्यूमेंट करता है। runner मॉडल को कॉल करता है। अगर जवाब अंतिम है, तो रन ख़त्म। अगर उसमें टूल कॉल हैं, तो runner उन्हें चलाता है, नतीजे जोड़ता है और मॉडल को फिर कॉल करता है। max_turns सेटिंग लूप की सीमा तय करती है और उसके पार होने पर MaxTurnsExceeded उठाती है।
एक उदाहरण: फ़ेल हो रहा टेस्ट ठीक करने को कहा गया कोडिंग एजेंट चार टर्न ले सकता है। पहले टेस्ट चलाता है, फिर फ़ाइल पढ़ता है, फिर उसे बदलता है, और आख़िर में अंतिम जवाब देता है:
Turn 1 model -> tool call: run_tests()
Turn 2 model -> tool call: read_file("src/dates.py")
Turn 3 model -> tool call: edit_file("src/dates.py", ...)
Turn 4 model -> final answer: "Fixed the timezone bug; tests pass."
हर टर्न एक अलग API अनुरोध है। अगर सिस्टम प्रॉम्प्ट और टूल की परिभाषाएँ 5,000 टोकन की हैं, तो वे 4 बार भेजी जाती हैं: इतिहास या टूल आउटपुट गिनने से पहले ही 20,000 इनपुट टोकन।
टूल आपके अपने फ़ंक्शन हो सकते हैं या MCP सर्वर से आ सकते हैं, जो एक साझा प्रोटोकॉल से किसी एजेंट को फ़ाइल सिस्टम, डेटाबेस और SaaS API से जोड़ते हैं।
यह क्यों मायने रखता है
- टर्न के साथ लागत बढ़ती है. हर टर्न एक नया अनुरोध है जो बातचीत दोबारा भेजता है। एजेंट टोकन बजट वाला लेख बताता है कि ये टोकन कहाँ जाते हैं। कैश्ड इनपुट दोहराए गए प्रीफ़िक्स का बिल घटाता है।
- कॉन्टेक्स्ट भर जाता है. लंबे रन कॉन्टेक्स्ट विंडो की सीमा तक पहुँचते हैं, और वहाँ पहुँचने से पहले ही उनकी क्वालिटी गिरने लगती है। लंबे चलने वाले एजेंट के लिए कॉन्टेक्स्ट मैनेजमेंट देखें।
- ग़लतियाँ जुड़ती जाती हैं. Anthropic बताता है कि स्वायत्तता के साथ “higher costs, and the potential for compounding errors” (अनुवाद: ज़्यादा लागत, और ग़लतियों के जुड़ते जाने की आशंका) आती है। डेटा बदलने या पैसे ख़र्च करने वाले कामों के लिए रुकने की शर्तें, guardrails और इंसानी मंज़ूरी जोड़ें।
- पैरेलल काम. कई एजेंट का मतलब है एक साथ कई अनुरोध। आपके प्रोवाइडर की concurrency सीमा तय करती है कि एक साथ कितने चल सकते हैं। मल्टी-एजेंट लागत इस स्थिति के लिए प्रति-टोकन और फ़्लैट कीमत की तुलना करता है।
BroadNet Inference पर
OpenAI-कम्पैटिबल base URL स्वीकार करने वाला कोई भी एजेंट फ़्रेमवर्क BroadNet को कॉल कर सकता है; सेटअप OpenAI Agents SDK गाइड में है। BroadNet के डॉक्स GLM 5.3 और Qwen3.8 27B के लिए टूल कॉलिंग सूचीबद्ध करते हैं। BroadNet के डॉक्स उपयोग के अनुसार भुगतान वाली key के लिए प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध तय करते हैं।
फ़्लैट-रेट प्लान (Full Moon, Orbit, Meteor) बिना टोकन मीटर के DeepSeek V4.1 Flash को कवर करते हैं। एक सेशन एक समय में एक अनुरोध चलाता है, ठीक वैसे जैसे एक अकेला एजेंट काम करता है, इसलिए पैरेलल चलने वाले हर एजेंट के लिए एक सेशन ख़रीदें। BroadNet के डॉक्स DeepSeek V4.1 Flash के लिए टूल कॉलिंग दर्ज नहीं करते, इसलिए प्लान पर भरोसा करने से पहले उस पर अपने एजेंट के टूल कॉल टेस्ट करें; डॉक्यूमेंटेड टूल कॉलिंग के लिए उपयोग के अनुसार भुगतान पर GLM 5.3 या Qwen3.8 27B चाहिए।