Lumalampas sa context window ang mahahabang session ng agent. Pinapalitan ng compaction ng buod ang buong history at nagpapatuloy.
Paano ito gumagana
Sa post ng Anthropic tungkol sa context engineering, ang compaction ay “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (Salin ng BroadRouter: “ang pagkuha sa usapang malapit na sa limit ng context window at pagbubuod ng laman nito,”) at pagsisimula ng bagong context window gamit ang buod na iyon. Sa Claude Code, ayon sa post, ang model ay “preserves architectural decisions, unresolved bugs, and implementation details,” (Salin ng BroadRouter: “pinapanatili ang mga desisyon sa architecture, mga bug na hindi pa naaayos, at mga detalye ng implementation,”) tinatanggal ang paulit-ulit na tool output, at nagpapatuloy gamit ang buod kasama ang “the five most recently accessed files.” (Salin ng BroadRouter: “ang limang file na pinakahuling binuksan.”)
Ang pinakamagaang anyo ay tool result clearing. Tinatawag ito ng parehong post na “one of the safest lightest touch forms of compaction” (Salin ng BroadRouter: “isa sa pinakaligtas at pinakamagaang anyo ng compaction”): tinatanggal ang mga lumang raw na tool output sa malalim na bahagi ng history, at nananatili ang lahat ng iba pa.
Iba-iba ang paraan ng mga tool sa pagbibigay ng compaction:
| Tool | Paano tumatakbo ang compaction |
|---|---|
| Claude Code | Ibinubuod ng auto-compaction ang history malapit sa limit; ang /compact Focus on ... ay mano-manong pagpapatakbo nito na may instruksyon kung ano ang pananatilihin |
| OpenAI Responses API | Ang context_management na may compact_threshold ay nagko-compact sa server kapag lumampas dito ang bilang ng token, o tawagin ang standalone na compact endpoint |
| Sarili mong agent | Hilingin sa model na ibuod ang history, saka magsimula ng bagong listahan ng mensahe na may system prompt, buod at mga pinakahuling turn |
Isang halimbawang kuwenta: ang agent na may 180,000 token ng history ay nagko-compact tungo sa 6,000-token na buod plus 20,000 token ng mga kamakailang file. Mga 26,000 token ng history ang ipinapadala ng bawat sumunod na turn sa halip na 180,000 na patuloy pang lumalaki.
Bakit ito mahalaga
- Haba. Kung walang compaction, hihinto ang mahabang task kapag napuno ang context window.
- Kalidad. Puwedeng bumaba ang accuracy bago pa maabot ang limit, problemang tinatawag na context rot. Nakatutulong ang mas maikli at mas malinis na context.
- Gastos. Sa per-token billing, ipinapadala ulit ng bawat turn ang history. Pinapaliit ito ng compaction, pero binabasa pa rin ng compaction request ang buong history nang isang beses, at kailangang i-cache ulit ang binagong prefix (cached input tokens).
- Panganib. Puwedeng maalis ng buod ang detalyeng mahalaga pala sa huli. Sumulat ng custom na instruksyon kung ano ang pananatilihin, at itago ang kritikal na impormasyon sa notes file.
Sa BroadNet Inference
Stateless na Chat Completions ang API ng BroadNet: ipinapadala mo ang buong listahan ng mensahe sa bawat request, at walang inilalarawang server-side compaction feature sa docs ng BroadNet. Sa agent o tool mo nangyayari ang compaction, na saka nagpapadala ng mas maikling history.
Tumatanggap ang DeepSeek V4.1 Flash at GLM 5.3 ng 1,048,576 token ng context, kaya mas madalang kailangan ang compaction, pero sa pay-as-you-go ay naaangkop pa rin ang mga punto sa itaas tungkol sa gastos at kalidad. Sa flat-rate plan, walang token meter, kaya para sa kalidad at bilis mahalaga ang compaction, hindi para sa bill. Saklaw ng context management para sa mga long-running agent kung kailan magko-compact at kung ano ang unang tatanggalin.