لمبے ایجنٹ سیشن اپنی کانٹیکسٹ ونڈو سے بڑے ہو جاتے ہیں۔ Compaction پوری ہسٹری کی جگہ خلاصہ رکھتا ہے اور کام جاری رکھتا ہے۔
یہ کیسے کام کرتا ہے
Anthropic کی context engineering پوسٹ compaction کو “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (ترجمہ: کانٹیکسٹ ونڈو کی حد کے قریب پہنچی گفتگو لے کر اس کے مواد کا خلاصہ بنانے کا طریقہ) بتاتی ہے، اور پھر اس خلاصے سے نئی کانٹیکسٹ ونڈو شروع ہوتی ہے۔ پوسٹ کہتی ہے کہ Claude Code میں ماڈل “preserves architectural decisions, unresolved bugs, and implementation details,” (ترجمہ: آرکیٹیکچر کے فیصلے، حل طلب بگ اور implementation کی تفصیلات محفوظ رکھتا ہے)، فالتو ٹول آؤٹ پٹ چھوڑ دیتا ہے، اور خلاصے کے ساتھ “the five most recently accessed files.” (ترجمہ: حال ہی میں کھولی گئی پانچ فائلیں) لے کر آگے چلتا ہے۔
سب سے ہلکی شکل tool result clearing ہے۔ وہی پوسٹ اسے “one of the safest lightest touch forms of compaction” (ترجمہ: compaction کی سب سے محفوظ اور ہلکی شکلوں میں سے ایک) کہتی ہے: ہسٹری میں گہرائی میں دبے پرانے خام ٹول آؤٹ پٹ ہٹا دیے جاتے ہیں، اور باقی سب رہتا ہے۔
ٹولز compaction کو مختلف طریقوں سے پیش کرتے ہیں:
| ٹول | Compaction کیسے چلتا ہے |
|---|---|
| Claude Code | Auto-compaction حد کے قریب ہسٹری کا خلاصہ بناتا ہے؛ /compact Focus on ... اسے ہاتھ سے چلاتا ہے، ساتھ ہدایات کہ کیا رکھنا ہے |
| OpenAI Responses API | compact_threshold کے ساتھ context_management ٹوکن گنتی اس حد سے گزرنے پر سرور کی طرف compact کرتا ہے، یا الگ compact اینڈپوائنٹ کال کریں |
| آپ کا اپنا ایجنٹ | ماڈل سے ہسٹری کا خلاصہ بنوائیں، پھر سسٹم پرامپٹ، خلاصے اور تازہ باریوں کے ساتھ نئی پیغامات کی فہرست شروع کریں |
ایک حساب: 180,000 ٹوکن کی ہسٹری والا ایجنٹ 6,000 ٹوکن کے خلاصے اور حالیہ فائلوں کے 20,000 ٹوکن تک compact ہوتا ہے۔ اس کے بعد ہر باری 180,000 اور بڑھتی ہسٹری کے بجائے تقریباً 26,000 ٹوکن کی ہسٹری بھیجتی ہے۔
یہ کیوں اہم ہے
- لمبائی۔ Compaction کے بغیر لمبا کام تب رک جاتا ہے جب کانٹیکسٹ ونڈو بھر جاتی ہے۔
- معیار۔ حد سے کافی پہلے درستی گر سکتی ہے، جسے context rot کہتے ہیں۔ چھوٹا، صاف کانٹیکسٹ مدد کر سکتا ہے۔
- لاگت۔ فی ٹوکن بلنگ پر ہر باری ہسٹری دوبارہ بھیجتی ہے۔ Compaction اسے چھوٹا کرتا ہے، اگرچہ compaction والی درخواست خود ایک بار پوری ہسٹری پڑھتی ہے، اور دوبارہ لکھا گیا prefix پھر سے cache ہونا چاہیے (کیش شدہ ان پٹ ٹوکن)۔
- خطرہ۔ خلاصہ ایسی تفصیل چھوڑ سکتا ہے جو بعد میں اہم ہو۔ کیا رکھنا ہے، اس پر اپنی ہدایات لکھیں، اور اہم حقائق notes فائل میں رکھیں۔
BroadNet Inference پر
BroadNet کا API stateless Chat Completions ہے: آپ ہر بار پیغامات کی پوری فہرست بھیجتے ہیں، اور BroadNet کی دستاویزات سرور کی طرف کسی compaction فیچر کا ذکر نہیں کرتیں۔ Compaction آپ کے ایجنٹ یا ٹول میں ہوتا ہے، جو پھر چھوٹی ہسٹری بھیجتا ہے۔
DeepSeek V4.1 Flash اور GLM 5.3 1,048,576 ٹوکن کا کانٹیکسٹ لیتے ہیں، اس لیے compaction کی ضرورت کم پڑتی ہے، لیکن استعمال کے مطابق ادائیگی پر اوپر کی لاگت اور معیار والی باتیں پھر بھی لاگو ہوتی ہیں۔ فلیٹ ریٹ پلان پر کوئی ٹوکن میٹر نہیں، اس لیے وہاں compaction بل کے لیے نہیں، معیار اور رفتار کے لیے اہم ہے۔ لمبے چلنے والے ایجنٹس کے لیے کانٹیکسٹ مینجمنٹ بتاتی ہے کہ کب compact کریں اور پہلے کیا ہٹائیں۔