BroadRouter

tool_choice(工具选择参数)

更新于

tool_choice 是控制工具使用的请求参数。在 OpenAI 的 Chat Completions 中,它可以是 auto(由模型决定)、required(必须调用一个或多个工具)、none(不用工具),或指定某个函数强制调用。Anthropic 对应的取值是 auto、any、tool 和 none。

又称: 工具选择、强制工具调用、强制函数调用、强制 function call、tool choice、tool_choice、forced tool call、forced function call

工具调用让模型可以请你的代码运行一个函数。tool_choice 决定这件事是可选的、必须的,还是关闭的。

工作原理

你发送 tools(函数名、描述和 JSON Schema 参数),并可选地发送 tool_choice。

OpenAI 取值 含义 Anthropic 对应写法
"auto" 模型自行选择回复消息,或发起一个或多个调用;发送了工具时的默认值 {"type": "auto"}
"required" “The model must call one or more tools”(译文:模型必须调用一个或多个工具) {"type": "any"}
{"type": "function", "function": {"name": "get_weather"}} 强制调用这一个工具 {"type": "tool", "name": "get_weather"}
"none" 不调用工具;未发送工具时的默认值 {"type": "none"}

OpenAI 的函数调用指南还介绍了一种 allowed tools(允许的工具)选项:把调用限制在一个子集内,同时保持完整的工具列表不变,指南建议用它来配合提示词缓存。

{"model": "broadnet/glm-5.3",
 "messages": [{"role": "user", "content": "Weather in Riyadh?"}],
 "tools": [{"type": "function", "function": {"name": "get_weather",
   "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                  "required": ["city"]}}}],
 "tool_choice": {"type": "function", "function": {"name": "get_weather"}}}

Anthropic 的文档指出,使用 any 或 tool 时,API 会预填回复,所以模型在调用之前不会写任何文字;另外,有些 Claude 模型不接受强制工具调用,会返回 400 错误。

为什么重要

  • 可靠的流水线。 一个必须以调用结束的抽取步骤,不应该收到一段闲聊式的文字回复。强制调用就去掉了这个分支。
  • 安全的轮次。 在最后的总结轮把它设为 none,可以阻止模型再开启一轮工具调用,同时保持工具列表不变。
  • 缓存。 Anthropic 说,修改 tool_choice 会让已缓存的消息块失效,所以尽量在各轮之间保持它稳定。

在 BroadNet Inference 上

BroadNet 的 API 参考文档只说明了 GLM 5.3 和 Qwen3.8 27B 支持工具调用,没有说明 tool_choice。请测试你打算使用的每个取值:发送 required 或指定函数,并确认回复里包含 tool_calls。如果强制调用表现不对,就改用 auto 并给出清晰的指令,再校验结果;或者在同样的模型上使用结构化输出。开源模型的工具调用一文给出了一个校验加重试的循环。

常见错误

  • 在智能体循环的每一轮都强制调用工具,导致它永远给不出最终回答。
  • 以为 required 指的是某个特定工具。它的意思是任意一个工具。

常见问题

tool_choice 的默认值是什么?

在 OpenAI 的 API 中,不发送工具时默认是 none,发送了工具时默认是 auto。Anthropic 的默认值相同。

什么时候应该强制调用工具?

当唯一可接受的回答就是一次调用时,比如一个必须调用 submit_label 的分类器。如果要的是固定格式的 JSON 回复,结构化输出往往更简单。

BroadNet Inference 支持 tool_choice 吗?

BroadNet 的文档说明 GLM 5.3 和 Qwen3.8 27B 支持工具调用,但 API 参考文档没有说明 tool_choice。依赖它之前,请逐个测试每个取值。

以 Markdown 格式阅读问 ChatGPT问 Claude问 Perplexity