BroadRouter

finish_reason

Na-update

Ang finish_reason ay field sa bawat choice ng chat completion response na nagsasabi kung bakit huminto ang model sa pagbuo. Sa format ng OpenAI, ang mga value ay stop, length, tool_calls, content_filter at ang deprecated na function_call. Sa Messages API ng Anthropic, stop_reason ang katumbas nito.

Tinatawag ding: finish reason sa LLM, bakit naputol ang sagot, finish reason, stop reason, stop_reason

Puwedeng mukhang kumpleto ang sagot pero hindi pala. Ang finish_reason ang nag-iisang field na nagsasabi kung kusang tumapos ang model.

Paano ito gumagana

May finish_reason ang bawat item sa choices. Inililista ng reference ng OpenAI ang mga value na ito:

Value Kahulugan (OpenAI)
stop Natural na hintuan, o tumama ang ibinigay na stop sequence
length “The maximum number of tokens specified in the request was reached” (naabot ang maximum na bilang ng token na itinakda sa request)
tool_calls Tumawag ng tool ang model
content_filter “Content was omitted due to a flag from our content filters” (inalis ang content dahil sa flag ng aming mga content filter)
function_call Mas luma at deprecated na anyo ng function call

Gumagamit ang Messages API ng Anthropic ng stop_reason na may sariling mga value, kasama ang end_turn, max_tokens, stop_sequence, tool_use, pause_turn, refusal at model_context_window_exceeded. Kapag tumama ang stop sequence, ibinabalik din ng Anthropic kung alin ito sa stop_sequence.

choice = r.choices[0]
if choice.finish_reason == "length":
    raise RuntimeError("cut off: raise max_tokens and resend")
if choice.finish_reason == "tool_calls":
    run_tools(choice.message.tool_calls)

Bakit ito mahalaga

  • Naputol na JSON. Hindi kumpleto ang sagot na length. Kapag isinara mo ang mga bracket, nae-parse ito pero may nawawalang data. Tinatalakay ito ng post tungkol sa invalid na JSON.
  • Mga agent loop. Ang ibig sabihin ng tool_calls ay “patakbuhin ang mga tool at tawagan ulit ako”, hindi “tapos na”.
  • Caching. Mga sagot lang na nagtapos sa stop ang i-cache. Ang naputol na sagot na naka-cache nang isang linggo ay magmumukhang bug ng model.

Sa BroadNet Inference

Hindi idinodokumento ng API reference ng BroadNet ang mga value ng finish_reason, kaya i-log muna ang nakukuha mo bago umasa rito. Pero idinodokumento nito ang pangunahing sanhi ng di-inaasahang length: nagre-reason muna bago sumagot ang DeepSeek V4.1 Flash, GLM 5.3 at Qwen3.8 27B, at bilang sa max_tokens ang mga reasoning token. Sinasabi ng BroadNet na kapag maliit ang limit, “the reasoning can use the whole budget and the answer comes back empty.” (Salin ng BroadRouter: “puwedeng maubos ng reasoning ang buong budget at walang lamang sagot ang bumalik.”) Mag-iwan ng 1,000 token o higit pa, o i-set ang reasoning_effort sa low. Ipinapakita ng gabay sa walang lamang response ang ayos.

Mga karaniwang pagkakamali

  • Pagbasa ng message.content nang hindi muna tinitingnan ang finish_reason.
  • Pagturing sa walang lamang sagot bilang pagpalya ng model, kahit naubos lang ng reasoning ang buong budget.

Mga tanong

Ano ang ibig sabihin ng finish_reason na "length"?

Tumama ang sagot sa token limit na itinakda mo at naputol ito. Inilalarawan ito ng OpenAI bilang "the maximum number of tokens specified in the request was reached" (naabot ang maximum na bilang ng token na itinakda sa request). Taasan ang max_tokens o humingi ng mas kaunti; huwag ayusin ang naputol na text.

Bakit "stop" ang finish_reason kapag nag-set ako ng stop sequence?

Sa format ng OpenAI, sakop ng stop ang natural na pagtatapos at ang tumugmang stop sequence. Pinaghihiwalay ito ng Anthropic sa end_turn at stop_sequence.

Idinodokumento ba ng BroadNet ang mga value ng finish_reason?

Hindi. Hindi nakalista sa API reference ng BroadNet ang mga value ng finish_reason. I-log ang field sa sarili mong mga request at subukan muna bago gumawa ng branching batay rito.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity