Un agente che ha bisogno di tre file non deve chiederli con un round trip alla volta. Con le chiamate parallele a strumenti il modello li chiede tutti e tre insieme.
Come funziona
In una risposta con tool calling, message.tool_calls è una lista. Con le chiamate parallele ha più di una voce, ognuna con il proprio id, nome della funzione e argomenti JSON.
"tool_calls": [
{"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
{"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]
Il tuo codice esegue le chiamate e aggiunge un messaggio tool per ogni chiamata, ciascuno con il tool_call_id corrispondente, poi richiama il modello.
- OpenAI:
parallel_tool_callsvaletrueper impostazione predefinita. Impostarlo afalse“ensures exactly zero or one tool is called.” (traduzione: garantisce che venga chiamato esattamente zero o uno strumento). La guida avverte che uno snapshot di modello a volte ripeteva le chiamate allo stesso strumento e consiglia di disattivare la funzione in quel caso. - Anthropic: l’uso parallelo è attivo per impostazione predefinita. Si disattiva con
disable_parallel_tool_use: truedentro l’oggetto tool_choice. Anthropic dice che l’API “doesn’t prescribe an execution order” (traduzione: non prescrive un ordine di esecuzione), e che tutti i risultati degli strumenti dovrebbero tornare in un unico messaggio utente perché il parallelismo continui a funzionare.
Perché è importante
- Latenza. Meno round trip con il modello. Gli strumenti indipendenti e di sola lettura possono girare contemporaneamente dalla tua parte.
- Ordine. Le chiamate con effetti collaterali, come scrivere e poi leggere, possono dipendere l’una dall’altra. Anthropic suggerisce di eseguirle in sequenza. Oppure disattiva la funzione.
- Contabilità. Ogni chiamata ha bisogno di un risultato con l’ID giusto. Un risultato mancante è una causa comune del fallimento della richiesta successiva.
Su BroadNet Inference
Il riferimento API di BroadNet documenta il tool calling per GLM 5.3 e Qwen3.8 27B e non documenta parallel_tool_calls. Verifica se il tuo prompt riceve più chiamate e se false viene rispettato. Le chiamate parallele arrivano in un’unica risposta, quindi non si sommano al tuo conteggio di richieste. L’esecuzione degli strumenti è a carico tuo. Nota che una sessione di un piano illimitato di BroadNet consente una richiesta alla volta ed è solo per DeepSeek V4.1 Flash; con le chiavi a consumo il limite di concorrenza è di 4 richieste contemporanee. L’articolo sul tool calling con i modelli open ha un ciclo funzionante.
Errori comuni
- Restituire i risultati in un formato di messaggio diverso per ogni chiamata, o dimenticarne uno.
- Eseguire in parallelo strumenti dipendenti tra loro perché il modello li ha elencati insieme.