Um agente que precisa de três arquivos não tem de pedi-los com uma ida e volta por vez. Com chamadas de ferramentas em paralelo, o modelo pede os três de uma vez.
Como funciona
Em uma resposta com tool calling, message.tool_calls é uma lista. Com chamadas em paralelo, ela tem mais de uma entrada, cada uma com o próprio id, nome de função e argumentos JSON.
"tool_calls": [
{"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
{"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]
O seu código executa as chamadas e acrescenta uma mensagem tool por chamada, cada uma com o tool_call_id correspondente, e então chama o modelo de novo.
- OpenAI:
parallel_tool_callsvem comotruepor padrão. Definir comofalse“ensures exactly zero or one tool is called.” (tradução: garante que exatamente zero ou uma ferramenta seja chamada). O guia avisa que um snapshot de modelo às vezes repetia chamadas à mesma ferramenta e recomenda desligar o recurso nesse caso. - Anthropic: o uso em paralelo vem ligado por padrão. Desligue com
disable_parallel_tool_use: truedentro do objeto tool_choice. A Anthropic diz que a API “doesn’t prescribe an execution order” (tradução: não prescreve uma ordem de execução), e que todos os resultados das ferramentas devem voltar em uma única mensagem de usuário para manter o paralelismo funcionando.
Por que importa
- Latência. Menos idas e voltas com o modelo. Ferramentas independentes e somente leitura podem rodar ao mesmo tempo do seu lado.
- Ordem. Chamadas com efeitos colaterais, como gravar e depois ler, podem depender umas das outras. A Anthropic sugere executá-las em sequência. Ou desligue o recurso.
- Controle. Cada chamada precisa de um resultado com o ID certo. Um resultado faltando é uma causa comum de falha na requisição seguinte.
Na BroadNet Inference
A referência da API da BroadNet documenta tool calling para o GLM 5.3 e o Qwen3.8 27B e não documenta parallel_tool_calls. Teste se o seu prompt recebe várias chamadas de volta e se false é respeitado. Chamadas em paralelo chegam em uma única resposta, então não aumentam a sua contagem de requisições. Executar as ferramentas fica do seu lado. Note que uma sessão de plano ilimitado da BroadNet permite uma requisição por vez e é só para o DeepSeek V4.1 Flash; nas chaves de pagamento por uso, o limite de concorrência é de 4 requisições simultâneas. O post sobre tool calling com modelos abertos tem um loop funcionando.
Erros comuns
- Devolver os resultados em um formato de mensagem diferente para cada chamada, ou esquecer um deles.
- Executar ao mesmo tempo ferramentas que dependem umas das outras só porque o modelo listou todas juntas.