BroadRouter
Начать

tool_choice

Обновлено

tool_choice — это параметр запроса, который управляет использованием инструментов. В Chat Completions от OpenAI он может быть auto (модель решает сама), required (модель обязана вызвать один или несколько инструментов), none (без инструментов) или именем функции, вызов которой принудителен. Аналогичные варианты у Anthropic — auto, any, tool и none.

Также называют: tool_choice, tool choice, выбор инструмента, принудительный вызов инструмента, принудительный вызов функции, forced tool call, forced function call

Вызов инструментов позволяет модели попросить ваш код выполнить функцию. tool_choice решает, будет ли это необязательным, обязательным или выключенным.

Как это работает

Вы передаёте tools (имена функций, описания и параметры в JSON Schema) и, при желании, tool_choice.

Значение OpenAI Смысл Аналог у Anthropic
"auto" Модель выбирает между сообщением и одним или несколькими вызовами; по умолчанию, когда инструменты переданы {"type": "auto"}
"required" “The model must call one or more tools” (перевод: «модель обязана вызвать один или несколько инструментов») {"type": "any"}
{"type": "function", "function": {"name": "get_weather"}} Принудительно вызывает этот инструмент {"type": "tool", "name": "get_weather"}
"none" Без вызовов инструментов; по умолчанию, когда инструментов нет {"type": "none"}

Руководство OpenAI по function calling описывает ещё вариант allowed tools: он ограничивает вызовы подмножеством инструментов, а полный список оставляет без изменений, и OpenAI советует его для кэширования промптов.

{"model": "broadnet/glm-5.3",
 "messages": [{"role": "user", "content": "Weather in Riyadh?"}],
 "tools": [{"type": "function", "function": {"name": "get_weather",
   "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                  "required": ["city"]}}}],
 "tool_choice": {"type": "function", "function": {"name": "get_weather"}}}

Документация Anthropic отмечает, что при any или tool API заранее заполняет начало ответа, так что модель не пишет текст перед вызовом, и что некоторые модели Claude не поддерживают принудительное использование инструментов и возвращают ошибку 400.

Почему это важно

  • Надёжные пайплайны. Шаг извлечения, который должен закончиться вызовом, не должен получать в ответ болтливый текст. Принудительный вызов убирает эту ветку.
  • Безопасные ходы. Значение none на финальном ходе с итоговой сводкой не даёт модели начать новый раунд инструментов, а список инструментов остаётся тем же.
  • Кэширование. Anthropic пишет, что изменение tool_choice инвалидирует закэшированные блоки сообщений, поэтому по возможности не меняйте его между ходами.

В BroadNet Inference

Справочник API BroadNet документирует вызов инструментов только для GLM 5.3 и Qwen3.8 27B и не описывает tool_choice. Проверьте каждое значение, которое собираетесь использовать: отправьте required или имя функции и убедитесь, что в ответе есть tool_calls. Если принудительный вызов работает не так, как ожидалось, используйте auto с чёткой инструкцией и проверяйте результат либо используйте структурированный вывод на тех же моделях. В статье о вызове инструментов в открытых моделях есть цикл проверки и повтора.

Частые ошибки

  • Принуждать к вызову инструмента на каждом ходе агентного цикла, из-за чего агент никогда не может дать финальный ответ.
  • Считать, что required означает конкретный инструмент. Это значит «любой инструмент».

Вопросы и ответы

Какое значение tool_choice по умолчанию?

В API OpenAI — none, если инструменты не переданы, и auto, если они есть. У Anthropic те же значения по умолчанию.

Когда стоит принудительно вызывать инструмент?

Когда единственный допустимый ответ — это вызов, например у классификатора, который обязан вызвать submit_label. Если нужен фиксированный JSON-ответ, часто проще структурированный вывод.

Поддерживает ли BroadNet Inference tool_choice?

BroadNet документирует вызов инструментов для GLM 5.3 и Qwen3.8 27B, но в её справочнике API tool_choice не описан. Проверьте каждое значение, прежде чем на него полагаться.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity