جس ایجنٹ کو تین فائلیں چاہییں، اسے ہر فائل کے لیے الگ round trip نہیں کرنا پڑتا۔ Parallel tool calls کے ساتھ ماڈل تینوں ایک ساتھ مانگ لیتا ہے۔
یہ کیسے کام کرتا ہے
Tool calling والے جواب میں message.tool_calls ایک فہرست ہوتی ہے۔ متوازی کالز میں اس میں ایک سے زیادہ اندراجات ہوتے ہیں، ہر ایک کا اپنا id، function کا نام اور JSON arguments۔
"tool_calls": [
{"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
{"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]
آپ کا کوڈ کالز چلاتا ہے اور ہر کال کے لیے ایک tool میسج جوڑتا ہے، ہر ایک میں مطابقت رکھنے والا tool_call_id، پھر ماڈل کو دوبارہ کال کرتا ہے۔
- OpenAI:
parallel_tool_callsبطورِ طے شدہtrueہے۔ اسےfalseکرنا “ensures exactly zero or one tool is called.” (ترجمہ: یقینی بناتا ہے کہ ٹھیک صفر یا ایک ٹول کال ہو)۔ گائیڈ خبردار کرتی ہے کہ ایک ماڈل snapshot کبھی کبھی ایک ہی ٹول کو بار بار کال کرتا تھا، اور وہاں یہ فیچر بند کرنے کی سفارش کرتی ہے۔ - Anthropic: متوازی استعمال بطورِ طے شدہ آن ہے۔ اسے tool_choice object کے اندر
disable_parallel_tool_use: trueسے بند کریں۔ Anthropic کہتا ہے کہ API “doesn’t prescribe an execution order” (ترجمہ: چلانے کی کوئی ترتیب مقرر نہیں کرتا)، اور parallelism برقرار رکھنے کے لیے تمام ٹول نتائج ایک ہی user میسج میں واپس آنے چاہییں۔
یہ کیوں اہم ہے
- Latency۔ ماڈل کے round trips کم ہوتے ہیں۔ آزاد، صرف پڑھنے والے ٹولز آپ کی طرف بیک وقت چل سکتے ہیں۔
- ترتیب۔ side effects والی کالز، جیسے پہلے لکھنا پھر پڑھنا، ایک دوسرے پر منحصر ہو سکتی ہیں۔ Anthropic انہیں ترتیب وار چلانے کا مشورہ دیتا ہے۔ یا فیچر بند کر دیں۔
- حساب کتاب۔ ہر کال کو درست ID والا نتیجہ چاہیے۔ کوئی نتیجہ چھوٹ جانا اگلی درخواست کے ناکام ہونے کی ایک عام وجہ ہے۔
BroadNet Inference پر
BroadNet کا API ریفرنس GLM 5.3 اور Qwen3.8 27B کے لیے tool calling درج کرتا ہے اور parallel_tool_calls درج نہیں کرتا۔ ٹیسٹ کریں کہ آپ کے پرامپٹ پر کئی کالز واپس آتی ہیں یا نہیں، اور false مانا جاتا ہے یا نہیں۔ متوازی کالز ایک ہی جواب میں آتی ہیں، اس لیے وہ آپ کی درخواستوں کی گنتی نہیں بڑھاتیں۔ ٹولز چلانا آپ کی ذمہ داری ہے۔ نوٹ کریں کہ BroadNet کے لامحدود پلان کا ایک سیشن ایک وقت میں ایک ہی درخواست چلاتا ہے، اور وہ صرف DeepSeek V4.1 Flash کے لیے ہے؛ استعمال کے مطابق ادائیگی والی کلیدوں پر concurrency حد بیک وقت 4 جاری درخواستیں ہے۔ اوپن ماڈلز کے ساتھ tool calling والی تحریر میں کام کرتا ہوا loop ہے۔
عام غلطیاں
- ہر کال کا نتیجہ مختلف میسج فارمیٹ میں واپس کرنا، یا کسی ایک کو چھوڑ دینا۔
- ایک دوسرے پر منحصر ٹولز کو بیک وقت چلانا، صرف اس لیے کہ ماڈل نے انہیں ساتھ درج کیا۔