BroadRouter
शुरू करें

कॉन्टेक्स्ट कॉम्पैक्शन (context compaction)

अपडेट किया गया

Context compaction वह तरीक़ा है जिसमें कॉन्टेक्स्ट विंडो की सीमा के पास पहुँची बातचीत का सारांश बनाया जाता है और सेशन उसी सारांश से आगे चलता है, ताकि एजेंट मुख्य फ़ैसले और स्थिति रखे और पुराने टूल आउटपुट जैसी कच्ची हिस्ट्री छोड़ दे।

अन्य नाम: कॉम्पैक्शन, कॉन्टेक्स्ट कॉम्पैक्शन, context compaction kya hai, compaction, auto-compact, conversation compaction, context summarization

लंबे एजेंट सेशन अपनी कॉन्टेक्स्ट विंडो से बड़े हो जाते हैं। Compaction पूरी हिस्ट्री की जगह सारांश रखता है और काम जारी रखता है।

यह कैसे काम करता है

Anthropic की context engineering पोस्ट compaction को “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (अनुवाद: कॉन्टेक्स्ट विंडो की सीमा के पास पहुँची बातचीत लेकर उसके कंटेंट का सारांश बनाने का तरीक़ा) बताती है, और फिर उस सारांश से नई कॉन्टेक्स्ट विंडो शुरू होती है। पोस्ट कहती है कि Claude Code में मॉडल “preserves architectural decisions, unresolved bugs, and implementation details,” (अनुवाद: आर्किटेक्चर के फ़ैसले, अनसुलझे बग और implementation के विवरण बचाकर रखता है), फ़ालतू टूल आउटपुट छोड़ देता है, और सारांश के साथ “the five most recently accessed files.” (अनुवाद: सबसे हाल में खोली गई पाँच फ़ाइलें) लेकर आगे चलता है।

सबसे हल्का रूप tool result clearing है। वही पोस्ट इसे “one of the safest lightest touch forms of compaction” (अनुवाद: compaction के सबसे सुरक्षित और हल्के रूपों में से एक) कहती है: हिस्ट्री में गहरे दबे पुराने कच्चे टूल आउटपुट हटा दिए जाते हैं, और बाक़ी सब रहता है।

टूल compaction को अलग-अलग तरीक़ों से देते हैं:

टूल Compaction कैसे चलता है
Claude Code Auto-compaction सीमा के पास हिस्ट्री का सारांश बनाता है; /compact Focus on ... इसे हाथ से चलाता है, साथ में निर्देश कि क्या रखना है
OpenAI Responses API compact_threshold के साथ context_management टोकन गिनती उस सीमा को पार करने पर सर्वर की तरफ़ compact करता है, या अलग compact एंडपॉइंट कॉल करें
आपका अपना एजेंट मॉडल से हिस्ट्री का सारांश बनवाएँ, फिर सिस्टम प्रॉम्प्ट, सारांश और ताज़ा बारियों के साथ नई मैसेज सूची शुरू करें

एक हिसाब: 180,000 टोकन की हिस्ट्री वाला एजेंट 6,000 टोकन के सारांश और हाल की फ़ाइलों के 20,000 टोकन तक compact होता है। उसके बाद हर बारी 180,000 और बढ़ती हिस्ट्री के बजाय लगभग 26,000 टोकन की हिस्ट्री भेजती है।

यह क्यों मायने रखता है

  • लंबाई। Compaction के बिना लंबा टास्क तब रुक जाता है जब कॉन्टेक्स्ट विंडो भर जाती है।
  • क्वालिटी। सीमा से काफ़ी पहले सटीकता गिर सकती है, जिसे context rot कहते हैं। छोटा, साफ़ कॉन्टेक्स्ट मदद कर सकता है।
  • लागत। प्रति-टोकन बिलिंग पर हर बारी हिस्ट्री फिर भेजती है। Compaction इसे छोटा करता है, हालाँकि compaction वाला अनुरोध ख़ुद एक बार पूरी हिस्ट्री पढ़ता है, और दोबारा लिखा prefix फिर से cache होना चाहिए (कैश्ड इनपुट टोकन)।
  • जोखिम। सारांश ऐसा विवरण छोड़ सकता है जो बाद में ज़रूरी हो। क्या रखना है, इस पर अपने निर्देश लिखें, और ज़रूरी तथ्य notes फ़ाइल में रखें।

BroadNet Inference पर

BroadNet का API stateless Chat Completions है: आप हर बार पूरी मैसेज सूची भेजते हैं, और BroadNet के डॉक्स सर्वर की तरफ़ वाले किसी compaction फ़ीचर का ज़िक्र नहीं करते। Compaction आपके एजेंट या टूल में होता है, जो फिर छोटी हिस्ट्री भेजता है।

DeepSeek V4.1 Flash और GLM 5.3 1,048,576 टोकन का कॉन्टेक्स्ट लेते हैं, इसलिए compaction की ज़रूरत कम पड़ती है, लेकिन उपयोग के अनुसार भुगतान पर ऊपर की लागत और क्वालिटी वाली बातें फिर भी लागू होती हैं। फ़्लैट-रेट प्लान पर कोई टोकन मीटर नहीं, इसलिए वहाँ compaction बिल के लिए नहीं, क्वालिटी और रफ़्तार के लिए मायने रखता है। लंबे चलने वाले एजेंट के लिए कॉन्टेक्स्ट मैनेजमेंट बताता है कि कब compact करें और पहले क्या हटाएँ।

अक्सर पूछे जाने वाले सवाल

क्या compaction से जानकारी खोती है?

हाँ, जान-बूझकर। सारांश वही रखता है जो सारांश बनाने वाले ने ज़रूरी समझा और बाक़ी छोड़ देता है। जो तथ्य खोने नहीं चाहिए, जैसे requirements और खुले बग, उन्हें एक notes फ़ाइल में रखें जिसे एजेंट फिर पढ़ सके।

क्या compaction मुफ़्त है?

नहीं। Claude Code के डॉक्स बताते हैं कि compaction उस पूरी बातचीत को पढ़ता है जिसका सारांश बनता है, इसलिए बड़े कॉन्टेक्स्ट को compact करना अपने-आप में बड़ा अनुरोध है। /clear से नए सिरे से शुरू करने में कुछ नहीं लगता, लेकिन निरंतरता भी नहीं रहती।

क्या compaction से prompt caching टूटती है?

यह हिस्ट्री दोबारा लिखता है, इसलिए अगला अनुरोध दोबारा लिखे हिस्से के लिए cache मिस करता है। Claude Code इसे एक अपेक्षित cache rebuild मानता है। उसके बाद छोटी हिस्ट्री सामान्य रूप से cache होती है।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें