लंबे एजेंट सेशन अपनी कॉन्टेक्स्ट विंडो से बड़े हो जाते हैं। Compaction पूरी हिस्ट्री की जगह सारांश रखता है और काम जारी रखता है।
यह कैसे काम करता है
Anthropic की context engineering पोस्ट compaction को “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (अनुवाद: कॉन्टेक्स्ट विंडो की सीमा के पास पहुँची बातचीत लेकर उसके कंटेंट का सारांश बनाने का तरीक़ा) बताती है, और फिर उस सारांश से नई कॉन्टेक्स्ट विंडो शुरू होती है। पोस्ट कहती है कि Claude Code में मॉडल “preserves architectural decisions, unresolved bugs, and implementation details,” (अनुवाद: आर्किटेक्चर के फ़ैसले, अनसुलझे बग और implementation के विवरण बचाकर रखता है), फ़ालतू टूल आउटपुट छोड़ देता है, और सारांश के साथ “the five most recently accessed files.” (अनुवाद: सबसे हाल में खोली गई पाँच फ़ाइलें) लेकर आगे चलता है।
सबसे हल्का रूप tool result clearing है। वही पोस्ट इसे “one of the safest lightest touch forms of compaction” (अनुवाद: compaction के सबसे सुरक्षित और हल्के रूपों में से एक) कहती है: हिस्ट्री में गहरे दबे पुराने कच्चे टूल आउटपुट हटा दिए जाते हैं, और बाक़ी सब रहता है।
टूल compaction को अलग-अलग तरीक़ों से देते हैं:
| टूल | Compaction कैसे चलता है |
|---|---|
| Claude Code | Auto-compaction सीमा के पास हिस्ट्री का सारांश बनाता है; /compact Focus on ... इसे हाथ से चलाता है, साथ में निर्देश कि क्या रखना है |
| OpenAI Responses API | compact_threshold के साथ context_management टोकन गिनती उस सीमा को पार करने पर सर्वर की तरफ़ compact करता है, या अलग compact एंडपॉइंट कॉल करें |
| आपका अपना एजेंट | मॉडल से हिस्ट्री का सारांश बनवाएँ, फिर सिस्टम प्रॉम्प्ट, सारांश और ताज़ा बारियों के साथ नई मैसेज सूची शुरू करें |
एक हिसाब: 180,000 टोकन की हिस्ट्री वाला एजेंट 6,000 टोकन के सारांश और हाल की फ़ाइलों के 20,000 टोकन तक compact होता है। उसके बाद हर बारी 180,000 और बढ़ती हिस्ट्री के बजाय लगभग 26,000 टोकन की हिस्ट्री भेजती है।
यह क्यों मायने रखता है
- लंबाई। Compaction के बिना लंबा टास्क तब रुक जाता है जब कॉन्टेक्स्ट विंडो भर जाती है।
- क्वालिटी। सीमा से काफ़ी पहले सटीकता गिर सकती है, जिसे context rot कहते हैं। छोटा, साफ़ कॉन्टेक्स्ट मदद कर सकता है।
- लागत। प्रति-टोकन बिलिंग पर हर बारी हिस्ट्री फिर भेजती है। Compaction इसे छोटा करता है, हालाँकि compaction वाला अनुरोध ख़ुद एक बार पूरी हिस्ट्री पढ़ता है, और दोबारा लिखा prefix फिर से cache होना चाहिए (कैश्ड इनपुट टोकन)।
- जोखिम। सारांश ऐसा विवरण छोड़ सकता है जो बाद में ज़रूरी हो। क्या रखना है, इस पर अपने निर्देश लिखें, और ज़रूरी तथ्य notes फ़ाइल में रखें।
BroadNet Inference पर
BroadNet का API stateless Chat Completions है: आप हर बार पूरी मैसेज सूची भेजते हैं, और BroadNet के डॉक्स सर्वर की तरफ़ वाले किसी compaction फ़ीचर का ज़िक्र नहीं करते। Compaction आपके एजेंट या टूल में होता है, जो फिर छोटी हिस्ट्री भेजता है।
DeepSeek V4.1 Flash और GLM 5.3 1,048,576 टोकन का कॉन्टेक्स्ट लेते हैं, इसलिए compaction की ज़रूरत कम पड़ती है, लेकिन उपयोग के अनुसार भुगतान पर ऊपर की लागत और क्वालिटी वाली बातें फिर भी लागू होती हैं। फ़्लैट-रेट प्लान पर कोई टोकन मीटर नहीं, इसलिए वहाँ compaction बिल के लिए नहीं, क्वालिटी और रफ़्तार के लिए मायने रखता है। लंबे चलने वाले एजेंट के लिए कॉन्टेक्स्ट मैनेजमेंट बताता है कि कब compact करें और पहले क्या हटाएँ।