BroadRouter
Başlayın

tool_choice

Güncellendi

tool_choice, araç kullanımını kontrol eden bir istek parametresidir. OpenAI'nin Chat Completions API'sinde auto (karar modelde), required (bir veya daha fazla araç çağırmalı), none (araç yok) ya da zorlanacak adlandırılmış bir fonksiyon olabilir. Anthropic'teki karşılıkları auto, any, tool ve none seçenekleridir.

Diğer adları: tool_choice, tool choice, araç seçimi, zorunlu araç çağrısı, zorunlu fonksiyon çağrısı, forced tool call, forced function call

Araç çağırma, modelin kodunuzdan bir fonksiyon çalıştırmasını istemesini sağlar. tool_choice ise bunun isteğe bağlı mı, zorunlu mu yoksa kapalı mı olduğuna karar verir.

Nasıl çalışır

tools alanını (fonksiyon adları, açıklamaları ve JSON Schema parametreleri) ve isteğe bağlı olarak tool_choice alanını gönderirsiniz.

OpenAI değeri Anlamı Anthropic karşılığı
"auto" Model bir mesaj veya bir ya da daha fazla çağrı seçer; araç gönderildiğinde varsayılan {"type": "auto"}
"required" “The model must call one or more tools” (çeviri: model bir veya daha fazla aracı çağırmalıdır) {"type": "any"}
{"type": "function", "function": {"name": "get_weather"}} O tek aracı zorlar {"type": "tool", "name": "get_weather"}
"none" Araç çağrısı yok; araç yokken varsayılan {"type": "none"}

OpenAI’nin function calling rehberi ayrıca tam araç listesini değiştirmeden çağrıları bir alt kümeyle sınırlayan bir allowed-tools seçeneğini anlatır ve bunu istem önbellekleme (prompt caching) için önerir.

{"model": "broadnet/glm-5.3",
 "messages": [{"role": "user", "content": "Weather in Riyadh?"}],
 "tools": [{"type": "function", "function": {"name": "get_weather",
   "parameters": {"type": "object", "properties": {"city": {"type": "string"}},
                  "required": ["city"]}}}],
 "tool_choice": {"type": "function", "function": {"name": "get_weather"}}}

Anthropic’in belgeleri, any veya tool ile API’nin yanıtı önceden doldurduğunu, bu yüzden modelin çağrıdan önce hiç metin yazmadığını ve bazı Claude modellerinin zorunlu araç kullanımını reddederek 400 hatası döndürdüğünü not eder.

Neden önemli

  • Güvenilir işlem hatları. Bir çağrıyla bitmesi gereken bir çıkarma adımı, geveze bir metin yanıtı almamalıdır. Çağrıyı zorlamak bu dalı ortadan kaldırır.
  • Güvenli turlar. Son özet turunda none ayarlamak, aynı araç listesini korurken modelin yeni bir araç turu başlatmasını engeller.
  • Önbellekleme. Anthropic, tool_choice değerini değiştirmenin önbelleğe alınmış mesaj bloklarını geçersiz kıldığını söyler; bu yüzden mümkün olduğunca turlar arasında sabit tutun.

BroadNet Inference’ta

BroadNet’in API referansı araç çağırmayı yalnızca GLM 5.3 ve Qwen3.8 27B için belgeler ve tool_choice parametresini belgelemez. Kullanmayı planladığınız her değeri test edin: required veya adlandırılmış bir fonksiyon gönderin ve yanıtın tool_calls içerdiğini doğrulayın. Zorlama beklendiği gibi çalışmazsa net bir talimatla auto kullanıp sonucu doğrulayın ya da aynı modellerde yapılandırılmış çıktı kullanın. Açık modellerle araç çağırma yazısında bir doğrula ve yeniden dene döngüsü var.

Sık yapılan hatalar

  • Bir ajan döngüsünün her turunda araç zorlamak; bu durumda ajan hiçbir zaman nihai bir cevap veremez.
  • required değerinin belirli bir aracı kastettiğini varsaymak. Herhangi bir aracı kasteder.

Sık sorulan sorular

Varsayılan tool_choice değeri nedir?

OpenAI'nin API'sinde araç gönderilmediğinde none, araç varken auto. Anthropic de aynı varsayılanları kullanır.

Bir araç çağrısını ne zaman zorlamalıyım?

Kabul edilebilir tek cevap bir çağrı olduğunda; örneğin submit_label çağırması gereken bir sınıflandırıcıda. Sabit bir JSON yanıtı için yapılandırılmış çıktı çoğu zaman daha basittir.

BroadNet Inference tool_choice destekliyor mu?

BroadNet, GLM 5.3 ve Qwen3.8 27B için araç çağırmayı belgeler, ancak API referansı tool_choice parametresini belgelemez. Güvenmeden önce her değeri test edin.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor