Tamamlanmış görünen bir yanıt aslında tamamlanmamış olabilir. finish_reason, modelin kendi isteğiyle bitirip bitirmediğini söyleyen tek alandır.
Nasıl çalışır
choices içindeki her öğe bir finish_reason taşır. OpenAI’nin referansı şu değerleri listeler:
| Değer | Anlamı (OpenAI) |
|---|---|
stop |
Doğal durma noktası veya sağlanan bir durdurma dizisine ulaşıldı |
length |
“The maximum number of tokens specified in the request was reached” (çeviri: istekte belirtilen azami token sayısına ulaşıldı) |
tool_calls |
Model bir araç çağırdı |
content_filter |
“Content was omitted due to a flag from our content filters” (çeviri: içerik filtrelerimizden gelen bir işaret nedeniyle içerik çıkarıldı) |
function_call |
Fonksiyon çağrısının eski, kullanımdan kaldırılmış biçimi |
Anthropic’in Messages API’si kendi değerleriyle stop_reason kullanır; bunlar arasında end_turn, max_tokens, stop_sequence, tool_use, pause_turn, refusal ve model_context_window_exceeded vardır. Bir durdurma dizisi tetiklendiğinde Anthropic hangisinin tetiklendiğini de stop_sequence alanında döndürür.
choice = r.choices[0]
if choice.finish_reason == "length":
raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
run_tools(choice.message.tool_calls)
Neden önemli
- Kesilmiş JSON.
lengthile biten bir yanıt eksiktir. Parantezleri kapatmak ayrıştırmayı sağlar ama veri kaybettirir. Geçersiz JSON yazısı bunu ele alır. - Ajan döngüleri.
tool_calls, “bitti” değil, “araçları çalıştır ve beni tekrar çağır” demektir. - Önbellekleme. Yalnızca
stopile biten yanıtları önbelleğe alın. Bir hafta boyunca önbellekte kalan kesik bir yanıt, model hatası gibi görünür.
BroadNet Inference’ta
BroadNet’in API referansı finish_reason değerlerini belgelemez; bu yüzden güvenmeden önce gelen değerleri günlüğe kaydedin. Ancak beklenmedik length sonuçlarının ana nedenini belgeler: DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B yanıt vermeden önce akıl yürütür ve akıl yürütme token’ları max_tokens sınırına dahil edilir. BroadNet, düşük bir sınırla “the reasoning can use the whole budget and the answer comes back empty” (çeviri: akıl yürütme bütçenin tamamını kullanabilir ve yanıt boş döner) der. 1.000 token veya daha fazla pay bırakın ya da reasoning_effort değerini low yapın. Boş yanıt rehberi çözümü adım adım anlatır.
Sık yapılan hatalar
- Önce finish_reason’ı kontrol etmeden
message.contentokumak. - Akıl yürütme bütçenin tamamını kullandığında boş yanıtı model hatası saymak.