Hindi kailangang isa-isang humingi, isang round trip bawat isa, ang agent na nangangailangan ng tatlong file. Sa parallel tool calls, sabay na hinihingi ng model ang tatlo.
Paano ito gumagana
Sa isang tool calling response, listahan ang message.tool_calls. Sa parallel calls, higit sa isa ang entry nito, bawat isa may sariling id, pangalan ng function at JSON arguments.
"tool_calls": [
{"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
{"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]
Pinapatakbo ng code mo ang mga tawag at nagdadagdag ng isang tool message kada tawag, bawat isa may katugmang tool_call_id, saka tinatawag ulit ang model.
- OpenAI:
trueang default ngparallel_tool_calls. Ang pag-set nito safalseay “ensures exactly zero or one tool is called.” (Salin ng BroadRouter: “tinitiyak na eksaktong zero o isang tool ang tatawagin.”) Nagbababala ang guide na may isang model snapshot na paminsan-minsang umuulit ng tawag sa parehong tool, at inirerekomendang i-off doon ang feature. - Anthropic: naka-on bilang default ang parallel use. I-off ito gamit ang
disable_parallel_tool_use: truesa loob ng tool_choice object. Sinasabi ng Anthropic na ang API ay “doesn’t prescribe an execution order” (Salin ng BroadRouter: “hindi nagtatakda ng pagkakasunod ng pagpapatakbo”), at dapat bumalik ang lahat ng tool result sa iisang user message para gumana pa rin ang parallelism.
Bakit ito mahalaga
- Latency. Mas kaunting round trip sa model. Puwedeng sabay na patakbuhin sa panig mo ang mga independent at read-only na tool.
- Pagkakasunod. Puwedeng umasa sa isa’t isa ang mga tawag na may side effect, gaya ng write saka read. Iminumungkahi ng Anthropic na isa-isang patakbuhin ang mga iyon. O i-off ang feature.
- Bookkeeping. Kailangan ng bawat tawag ng resulta na may tamang ID. Karaniwang dahilan ng pagpalya ng susunod na request ang nawawalang resulta.
Sa BroadNet Inference
Idinodokumento ng API reference ng BroadNet ang tool calling para sa GLM 5.3 at Qwen3.8 27B at hindi nito idinodokumento ang parallel_tool_calls. I-test kung ilang tawag ang ibinabalik para sa prompt mo at kung sinusunod ang false. Dumarating ang mga parallel call sa iisang response, kaya hindi sila nadaragdag sa bilang ng request mo. Nasa panig mo ang pagpapatakbo ng tools. Tandaan na isang request lang sa isang pagkakataon ang pinapayagan ng isang session ng unlimited na plan ng BroadNet, at para lang ito sa DeepSeek V4.1 Flash; sa mga pay-as-you-go key, 4 na sabay-sabay na request ang concurrency limit. May gumaganang loop ang post tungkol sa tool calling sa open models.
Mga karaniwang pagkakamali
- Pagbabalik ng resulta sa ibang message format para sa bawat tawag, o pagkalimot sa isa.
- Sabay-sabay na pagpapatakbo ng mga tool na umaasa sa isa’t isa dahil magkasamang inilista ng model ang mga ito.