BroadRouter
شروع کریں

tool_choice

اپ ڈیٹ

tool_choice ایک درخواست پیرامیٹر ہے جو ٹول کے استعمال کو کنٹرول کرتا ہے۔ OpenAI کے Chat Completions میں یہ auto (ماڈل طے کرے)، required (ایک یا زیادہ ٹولز کال کرنا لازم)، none (کوئی ٹول نہیں) یا لازمی کال کے لیے کسی فنکشن کا نام ہو سکتا ہے۔ Anthropic کے مساوی آپشنز auto، any، tool اور none ہیں۔

دوسرے نام: ٹول چوائس، لازمی ٹول کال، tool_choice kya hai، tool choice kya hai، tool choice، forced tool call، forced function call

ٹول کالنگ سے ماڈل آپ کے کوڈ سے کوئی فنکشن چلانے کو کہہ سکتا ہے۔ tool_choice طے کرتا ہے کہ یہ اختیاری ہے، لازمی ہے یا بند۔

یہ کیسے کام کرتا ہے

آپ tools بھیجتے ہیں (فنکشن کے نام، تفصیل اور JSON Schema پیرامیٹرز) اور اختیاری طور پر tool_choice۔

OpenAI ویلیو مطلب Anthropic میں مساوی
"auto" ماڈل پیغام یا ایک یا زیادہ کالز چنتا ہے؛ ٹولز بھیجنے پر ڈیفالٹ {"type": "auto"}
"required" “The model must call one or more tools” (ترجمہ: ماڈل کو ایک یا زیادہ ٹولز کال کرنے ہی ہوں گے) {"type": "any"}
{"type": "function", "function": {"name": "get_weather"}} وہی ایک ٹول لازمی {"type": "tool", "name": "get_weather"}
"none" کوئی ٹول کال نہیں؛ ٹولز نہ ہوں تو ڈیفالٹ {"type": "none"}

OpenAI کی function calling گائیڈ ایک allowed-tools آپشن بھی بتاتی ہے، جو پوری ٹول فہرست بدلے بغیر کالز کو ایک ذیلی مجموعے تک محدود کرتا ہے؛ گائیڈ اسے پرامپٹ کیشنگ کے لیے تجویز کرتی ہے۔

{"model": "broadnet/glm-5.3",
 "messages": [{"role": "user", "content": "Weather in Riyadh?"}],
 "tools": [{"type": "function", "function": {"name": "get_weather",
   "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                  "required": ["city"]}}}],
 "tool_choice": {"type": "function", "function": {"name": "get_weather"}}}

Anthropic کی دستاویزات بتاتی ہیں کہ any یا tool کے ساتھ API جواب کو prefill کرتا ہے، اس لیے ماڈل کال سے پہلے کوئی متن نہیں لکھتا، اور کچھ Claude ماڈلز لازمی ٹول استعمال کو رد کر کے 400 ایرر لوٹاتے ہیں۔

یہ کیوں اہم ہے

  • قابلِ بھروسا پائپ لائنز۔ جس extraction مرحلے کو کال پر ختم ہونا ہی ہے، اسے باتونی متنی جواب نہیں ملنا چاہیے۔ کال لازمی بنانے سے وہ راستہ ہی ختم ہو جاتا ہے۔
  • محفوظ ٹرنز۔ آخری خلاصے والے ٹرن کے لیے none سیٹ کرنے سے ماڈل نیا ٹول راؤنڈ شروع نہیں کرتا، اور ٹول فہرست وہی رہتی ہے۔
  • کیشنگ۔ Anthropic کہتا ہے کہ tool_choice بدلنے سے کیش شدہ پیغام بلاکس کالعدم ہو جاتے ہیں، اس لیے جہاں ممکن ہو اسے ٹرنز میں یکساں رکھیں۔

BroadNet Inference پر

BroadNet کا API ریفرنس ٹول کالنگ صرف GLM 5.3 اور Qwen3.8 27B کے لیے دستاویزی کرتا ہے، اور tool_choice دستاویزی نہیں کرتا۔ جو بھی ویلیو استعمال کرنی ہو اسے ٹیسٹ کریں: required یا کسی فنکشن کا نام بھیجیں اور تصدیق کریں کہ جواب میں tool_calls ہے۔ اگر لازمی بنانا ٹھیک کام نہ کرے تو واضح ہدایت کے ساتھ auto استعمال کریں اور نتیجہ ویلیڈیٹ کریں، یا انہی ماڈلز پر اسٹرکچرڈ آؤٹ پٹ استعمال کریں۔ اوپن ماڈل ٹول کالنگ پوسٹ میں validate-and-retry لوپ ہے۔

عام غلطیاں

  • ایجنٹ لوپ کے ہر ٹرن پر ٹول لازمی بنانا، جس سے وہ کبھی آخری جواب نہیں دے پاتا۔
  • یہ فرض کرنا کہ required کا مطلب کوئی مخصوص ٹول ہے۔ اس کا مطلب ہے کوئی بھی ٹول۔

عام سوالات

tool_choice کا ڈیفالٹ کیا ہے؟

OpenAI کے API میں، جب کوئی ٹول نہ بھیجا جائے تو none، اور ٹولز موجود ہوں تو auto۔ Anthropic بھی یہی ڈیفالٹس استعمال کرتا ہے۔

ٹول کال کب لازمی بنانی چاہیے؟

جب صرف کال ہی قابلِ قبول جواب ہو، جیسے کوئی classifier جسے submit_label کال کرنا ہی ہے۔ مقررہ JSON جواب کے لیے اکثر structured output آسان رہتا ہے۔

کیا BroadNet Inference، tool_choice سپورٹ کرتا ہے؟

BroadNet، GLM 5.3 اور Qwen3.8 27B کے لیے ٹول کالنگ دستاویزی کرتا ہے، لیکن اس کا API ریفرنس tool_choice دستاویزی نہیں کرتا۔ بھروسا کرنے سے پہلے ہر ویلیو ٹیسٹ کریں۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں