जो जवाब पूरा दिखता है, ज़रूरी नहीं कि पूरा हो। finish_reason ही वह फ़ील्ड है जो बताता है कि मॉडल अपनी मर्ज़ी से रुका या नहीं।
यह कैसे काम करता है
choices के हर आइटम में एक finish_reason होता है। OpenAI का रेफ़रंस ये वैल्यू बताता है:
| वैल्यू | मतलब (OpenAI) |
|---|---|
stop |
स्वाभाविक रुकने की जगह, या दिया गया स्टॉप सीक्वेंस मिल गया |
length |
“The maximum number of tokens specified in the request was reached” (अनुवाद: अनुरोध में बताई गई अधिकतम टोकन संख्या पूरी हो गई) |
tool_calls |
मॉडल ने कोई टूल कॉल किया |
content_filter |
“Content was omitted due to a flag from our content filters” (अनुवाद: हमारे कंटेंट फ़िल्टर के फ़्लैग की वजह से कंटेंट हटाया गया) |
function_call |
फ़ंक्शन कॉल का पुराना, deprecated रूप |
Anthropic का Messages API अपनी वैल्यू के साथ stop_reason इस्तेमाल करता है, जिनमें end_turn, max_tokens, stop_sequence, tool_use, pause_turn, refusal और model_context_window_exceeded शामिल हैं। स्टॉप सीक्वेंस लगने पर Anthropic stop_sequence में यह भी बताता है कि कौन-सा लगा।
choice = r.choices[0]
if choice.finish_reason == "length":
raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
run_tools(choice.message.tool_calls)
यह क्यों मायने रखता है
- कटा हुआ JSON.
lengthवाला जवाब अधूरा होता है। ब्रैकेट बंद कर देने से वह पार्स तो हो जाता है, पर डेटा खो जाता है। इनवैलिड JSON वाली पोस्ट इसे समझाती है। - एजेंट लूप.
tool_callsका मतलब है “टूल चलाओ और मुझे फिर कॉल करो”, न कि “काम पूरा”। - कैशिंग. सिर्फ़ वही जवाब कैश करें जो
stopपर ख़त्म हुए। हफ़्ते भर के लिए कैश हुआ कटा जवाब मॉडल का बग लगता है।
BroadNet Inference पर
BroadNet का API रेफ़रंस finish_reason की वैल्यू डॉक्यूमेंट नहीं करता, इसलिए उन पर निर्भर होने से पहले जो मिलता है उसे लॉग करें। हाँ, यह length वाली अचानक दिक़्क़तों की मुख्य वजह ज़रूर बताता है: DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं, और रीज़निंग टोकन max_tokens में गिने जाते हैं। BroadNet कहता है कि छोटी सीमा पर “the reasoning can use the whole budget and the answer comes back empty.” (अनुवाद: रीज़निंग पूरा बजट ख़र्च कर सकती है और जवाब ख़ाली लौटता है।) 1,000 या उससे ज़्यादा टोकन की गुंजाइश छोड़ें, या reasoning_effort को low पर सेट करें। ख़ाली जवाब वाली गाइड इसका हल क़दम-दर-क़दम बताती है।
आम ग़लतियाँ
- पहले finish_reason देखे बिना
message.contentपढ़ना। - जब रीज़निंग ने पूरा बजट ख़र्च कर दिया हो, तब ख़ाली जवाब को मॉडल की नाकामी मान लेना।