टूल कॉलिंग से मॉडल आपके कोड से कोई फ़ंक्शन चलाने को कह सकता है। tool_choice तय करता है कि यह वैकल्पिक है, अनिवार्य है या बंद।
यह कैसे काम करता है
आप tools भेजते हैं (फ़ंक्शन के नाम, विवरण और JSON Schema पैरामीटर) और वैकल्पिक रूप से tool_choice।
| OpenAI वैल्यू | मतलब | Anthropic में बराबर |
|---|---|---|
"auto" |
मॉडल मैसेज या एक या ज़्यादा कॉल चुनता है; टूल भेजने पर डिफ़ॉल्ट | {"type": "auto"} |
"required" |
“The model must call one or more tools” (अनुवाद: मॉडल को एक या ज़्यादा टूल कॉल करने ही होंगे) | {"type": "any"} |
{"type": "function", "function": {"name": "get_weather"}} |
वही एक टूल ज़बरदस्ती | {"type": "tool", "name": "get_weather"} |
"none" |
कोई टूल कॉल नहीं; टूल न हों तो डिफ़ॉल्ट | {"type": "none"} |
OpenAI की function calling गाइड एक allowed-tools विकल्प भी बताती है, जो पूरी टूल सूची को बिना बदले कॉल को एक उपसमूह तक सीमित करता है; गाइड इसे प्रॉम्प्ट कैशिंग के लिए सुझाती है।
{"model": "broadnet/glm-5.3",
"messages": [{"role": "user", "content": "Weather in Riyadh?"}],
"tools": [{"type": "function", "function": {"name": "get_weather",
"parameters": {"type": "object", "properties": {"city": {"type": "string"}},
"required": ["city"]}}}],
"tool_choice": {"type": "function", "function": {"name": "get_weather"}}}
Anthropic के डॉक्स बताते हैं कि any या tool के साथ API जवाब को prefill करता है, इसलिए मॉडल कॉल से पहले कोई टेक्स्ट नहीं लिखता, और कुछ Claude मॉडल ज़बरदस्ती वाले टूल इस्तेमाल को रिजेक्ट करके 400 एरर लौटाते हैं।
यह क्यों मायने रखता है
- भरोसेमंद पाइपलाइन. जिस extraction चरण को कॉल पर ख़त्म होना ही है, उसे बातूनी टेक्स्ट जवाब नहीं मिलना चाहिए। कॉल ज़बरदस्ती करवाने से वह रास्ता ही हट जाता है।
- सुरक्षित टर्न. आख़िरी सारांश वाले टर्न के लिए
noneसेट करने से मॉडल नया टूल राउंड शुरू नहीं करता, और टूल सूची वही रहती है। - कैशिंग. Anthropic कहता है कि
tool_choiceबदलने से कैश किए गए मैसेज ब्लॉक अमान्य हो जाते हैं, इसलिए जहाँ हो सके इसे टर्न दर टर्न एक-सा रखें।
BroadNet Inference पर
BroadNet का API रेफ़रेंस टूल कॉलिंग सिर्फ़ GLM 5.3 और Qwen3.8 27B के लिए दर्ज करता है, और tool_choice दर्ज नहीं करता। जो भी वैल्यू इस्तेमाल करनी है उसे टेस्ट करें: required या किसी फ़ंक्शन का नाम भेजें और पक्का करें कि जवाब में tool_calls है। अगर ज़बरदस्ती ठीक से काम न करे, तो साफ़ निर्देश के साथ auto इस्तेमाल करें और नतीजा वैलिडेट करें, या उन्हीं मॉडलों पर स्ट्रक्चर्ड आउटपुट इस्तेमाल करें। ओपन मॉडल टूल कॉलिंग पोस्ट में validate-and-retry लूप है।
आम ग़लतियाँ
- एजेंट लूप के हर टर्न पर टूल ज़बरदस्ती करवाना, जिससे वह कभी आख़िरी जवाब नहीं दे पाता।
- यह मान लेना कि
requiredका मतलब कोई ख़ास टूल है। इसका मतलब है कोई भी टूल।