BroadRouter
Начать

Параллельные вызовы инструментов (parallel tool calls)

Обновлено

Параллельные вызовы инструментов — это когда модель возвращает больше одного вызова инструмента в одном ответе, например три чтения файлов сразу. В формате OpenAI они приходят несколькими элементами tool_calls, а parallel_tool_calls со значением false ограничивает модель нулём или одним вызовом за ход.

Также называют: параллельный вызов функций, параллельный function calling, несколько вызовов инструментов, parallel tool calling, parallel function calling, parallel_tool_calls, multiple tool calls

Агенту, которому нужны три файла, не обязательно запрашивать их по одному, тратя на каждый отдельный круг запроса и ответа. С параллельными вызовами инструментов модель просит все три сразу.

Как это работает

В ответе с вызовом инструментов поле message.tool_calls — это список. При параллельных вызовах в нём больше одного элемента, и у каждого свой id, имя функции и аргументы в JSON.

"tool_calls": [
  {"id": "call_1", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"a.py\"}"}},
  {"id": "call_2", "type": "function", "function": {"name": "read_file", "arguments": "{\"path\": \"b.py\"}"}}
]

Ваш код выполняет вызовы и добавляет по одному сообщению tool на каждый вызов, каждое с соответствующим tool_call_id, а затем снова обращается к модели.

  • OpenAI: parallel_tool_calls по умолчанию равен true. Значение false “ensures exactly zero or one tool is called.” (перевод: «гарантирует, что будет вызван ровно ноль или один инструмент».) Руководство предупреждает, что один из снапшотов модели иногда повторял вызовы одного и того же инструмента, и советует для него отключать эту функцию.
  • Anthropic: параллельное использование включено по умолчанию. Отключается через disable_parallel_tool_use: true внутри объекта tool_choice. Anthropic пишет, что API “doesn’t prescribe an execution order” (перевод: «не предписывает порядок выполнения») и что все результаты инструментов должны возвращаться в одном сообщении пользователя, чтобы параллельность продолжала работать.

Почему это важно

  • Задержка. Меньше кругов запроса к модели. Независимые инструменты, которые только читают данные, могут выполняться у вас одновременно.
  • Порядок. Вызовы с побочными эффектами, например запись, а затем чтение, могут зависеть друг от друга. Anthropic советует выполнять такие вызовы последовательно. Или отключите функцию.
  • Учёт. На каждый вызов нужен результат с правильным ID. Пропущенный результат — частая причина того, что следующий запрос завершается ошибкой.

В BroadNet Inference

Справочник API BroadNet документирует вызов инструментов для GLM 5.3 и Qwen3.8 27B и не документирует parallel_tool_calls. Проверьте, возвращает ли модель на ваш промпт несколько вызовов и учитывается ли false. Параллельные вызовы приходят в одном ответе, поэтому не увеличивают число запросов. Выполнение инструментов — на вашей стороне. Учтите, что сессия безлимитного тарифа BroadNet допускает один запрос за раз и работает только с DeepSeek V4.1 Flash; на ключах с оплатой по факту лимит параллельности — 4 одновременных запросов. В статье о вызове инструментов в открытых моделях есть рабочий цикл.

Частые ошибки

  • Возвращать результаты для разных вызовов в разном формате сообщений или терять один из них.
  • Выполнять зависимые инструменты одновременно только потому, что модель перечислила их вместе.

Вопросы и ответы

Параллельные вызовы инструментов — это параллельные запросы к API?

Нет. Модель возвращает несколько вызовов в одном ответе. Ваш код выполняет их, одновременно или по очереди, и отправляет все результаты обратно в следующем запросе.

Как отключить параллельные вызовы инструментов?

В формате OpenAI задайте parallel_tool_calls равным false; по словам OpenAI, это "ensures exactly zero or one tool is called." (перевод: «гарантирует, что будет вызван ровно ноль или один инструмент».) В API Anthropic задайте disable_parallel_tool_use равным true внутри tool_choice.

Поддерживает ли BroadNet Inference parallel_tool_calls?

Справочник API BroadNet не документирует parallel_tool_calls. Вызов инструментов документирован для GLM 5.3 и Qwen3.8 27B; проверьте, возвращают ли они несколько вызовов и учитывается ли этот флаг.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity