BroadRouter
Magsimula

Context compaction

Na-update

Ang context compaction ay ang pagbubuod ng usapang malapit nang maabot ang limit ng context window at pagtutuloy ng session mula sa buod na iyon, para mapanatili ng agent ang mahahalagang desisyon at state habang tinatanggal ang raw na history gaya ng lumang tool output.

Tinatawag ding: compaction, auto-compact, conversation compaction, context summarization, pagbubuod ng context, /compact

Lumalampas sa context window ang mahahabang session ng agent. Pinapalitan ng compaction ng buod ang buong history at nagpapatuloy.

Paano ito gumagana

Sa post ng Anthropic tungkol sa context engineering, ang compaction ay “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (Salin ng BroadRouter: “ang pagkuha sa usapang malapit na sa limit ng context window at pagbubuod ng laman nito,”) at pagsisimula ng bagong context window gamit ang buod na iyon. Sa Claude Code, ayon sa post, ang model ay “preserves architectural decisions, unresolved bugs, and implementation details,” (Salin ng BroadRouter: “pinapanatili ang mga desisyon sa architecture, mga bug na hindi pa naaayos, at mga detalye ng implementation,”) tinatanggal ang paulit-ulit na tool output, at nagpapatuloy gamit ang buod kasama ang “the five most recently accessed files.” (Salin ng BroadRouter: “ang limang file na pinakahuling binuksan.”)

Ang pinakamagaang anyo ay tool result clearing. Tinatawag ito ng parehong post na “one of the safest lightest touch forms of compaction” (Salin ng BroadRouter: “isa sa pinakaligtas at pinakamagaang anyo ng compaction”): tinatanggal ang mga lumang raw na tool output sa malalim na bahagi ng history, at nananatili ang lahat ng iba pa.

Iba-iba ang paraan ng mga tool sa pagbibigay ng compaction:

Tool Paano tumatakbo ang compaction
Claude Code Ibinubuod ng auto-compaction ang history malapit sa limit; ang /compact Focus on ... ay mano-manong pagpapatakbo nito na may instruksyon kung ano ang pananatilihin
OpenAI Responses API Ang context_management na may compact_threshold ay nagko-compact sa server kapag lumampas dito ang bilang ng token, o tawagin ang standalone na compact endpoint
Sarili mong agent Hilingin sa model na ibuod ang history, saka magsimula ng bagong listahan ng mensahe na may system prompt, buod at mga pinakahuling turn

Isang halimbawang kuwenta: ang agent na may 180,000 token ng history ay nagko-compact tungo sa 6,000-token na buod plus 20,000 token ng mga kamakailang file. Mga 26,000 token ng history ang ipinapadala ng bawat sumunod na turn sa halip na 180,000 na patuloy pang lumalaki.

Bakit ito mahalaga

  • Haba. Kung walang compaction, hihinto ang mahabang task kapag napuno ang context window.
  • Kalidad. Puwedeng bumaba ang accuracy bago pa maabot ang limit, problemang tinatawag na context rot. Nakatutulong ang mas maikli at mas malinis na context.
  • Gastos. Sa per-token billing, ipinapadala ulit ng bawat turn ang history. Pinapaliit ito ng compaction, pero binabasa pa rin ng compaction request ang buong history nang isang beses, at kailangang i-cache ulit ang binagong prefix (cached input tokens).
  • Panganib. Puwedeng maalis ng buod ang detalyeng mahalaga pala sa huli. Sumulat ng custom na instruksyon kung ano ang pananatilihin, at itago ang kritikal na impormasyon sa notes file.

Sa BroadNet Inference

Stateless na Chat Completions ang API ng BroadNet: ipinapadala mo ang buong listahan ng mensahe sa bawat request, at walang inilalarawang server-side compaction feature sa docs ng BroadNet. Sa agent o tool mo nangyayari ang compaction, na saka nagpapadala ng mas maikling history.

Tumatanggap ang DeepSeek V4.1 Flash at GLM 5.3 ng 1,048,576 token ng context, kaya mas madalang kailangan ang compaction, pero sa pay-as-you-go ay naaangkop pa rin ang mga punto sa itaas tungkol sa gastos at kalidad. Sa flat-rate plan, walang token meter, kaya para sa kalidad at bilis mahalaga ang compaction, hindi para sa bill. Saklaw ng context management para sa mga long-running agent kung kailan magko-compact at kung ano ang unang tatanggalin.

Mga tanong

May nawawala bang impormasyon sa compaction?

Oo, sinadya iyon. Pinapanatili ng buod ang itinuring na mahalaga ng nagbubuod at tinatanggal ang iba. Itago ang mga detalyeng hindi puwedeng mawala, gaya ng requirements at bukas na bugs, sa notes file na puwedeng balikan ng agent.

Libre ba ang compaction?

Hindi. Ayon sa docs ng Claude Code, binabasa ng compaction ang buong usapang ibinubuod nito, kaya malaking request mismo ang pag-compact ng malaking context. Walang gastos ang pagsisimula ulit gamit ang /clear, pero walang tuloy-tuloy na context.

Nasisira ba ng compaction ang prompt caching?

Binabago nito ang history, kaya magmi-miss sa cache ang susunod na request para sa binagong bahagi. Itinuturing ito ng Claude Code na inaasahang cache rebuild. Pagkatapos nito, normal nang naka-cache ang mas maikling history.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity