Sesi ejen yang panjang melebihi tetingkap konteksnya. Pemampatan menggantikan sejarah penuh dengan ringkasan dan meneruskan kerja.
Cara ia berfungsi
Artikel context engineering Anthropic mentakrifkan pemampatan sebagai “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (Terjemahan BroadRouter: “amalan mengambil perbualan yang hampir mencapai had tetingkap konteks, meringkaskan kandungannya,”) dan memulakan tetingkap konteks baharu dengan ringkasan itu. Dalam Claude Code, menurut artikel itu, model “preserves architectural decisions, unresolved bugs, and implementation details,” (Terjemahan BroadRouter: “mengekalkan keputusan seni bina, pepijat yang belum diselesaikan, dan butiran pelaksanaan,”) membuang output alatan yang berlebihan, dan meneruskan dengan ringkasan serta “the five most recently accessed files.” (Terjemahan BroadRouter: “lima fail yang paling baru diakses.”)
Bentuk paling ringan ialah pembersihan hasil alatan (tool result clearing). Artikel yang sama menyebutnya “one of the safest lightest touch forms of compaction” (Terjemahan BroadRouter: “salah satu bentuk pemampatan yang paling selamat dan paling ringan”): output alatan mentah yang lama jauh dalam sejarah dibuang, dan selebihnya kekal.
Alat-alat mendedahkan pemampatan dengan cara berbeza:
| Alat | Cara pemampatan berjalan |
|---|---|
| Claude Code | Auto-compaction meringkaskan sejarah apabila hampir had; /compact Focus on ... menjalankannya secara manual dengan arahan tentang apa yang perlu disimpan |
| OpenAI Responses API | context_management dengan compact_threshold memampatkan di pihak pelayan apabila kiraan token melepasinya, atau panggil endpoint compact yang berasingan |
| Ejen anda sendiri | Minta model meringkaskan sejarah, kemudian mulakan senarai mesej baharu dengan system prompt, ringkasan dan giliran terkini |
Contoh kiraan: ejen dengan 180,000 token sejarah dimampatkan kepada ringkasan 6,000 token ditambah 20,000 token fail terkini. Setiap giliran selepas itu menghantar kira-kira 26,000 token sejarah, bukannya 180,000 dan terus bertambah.
Mengapa ia penting
- Panjang. Tanpa pemampatan, tugas panjang berhenti apabila tetingkap konteks penuh.
- Kualiti. Ketepatan boleh merosot jauh sebelum had, masalah yang dipanggil context rot. Konteks yang lebih pendek dan bersih boleh membantu.
- Kos. Pada pengebilan setiap token, setiap giliran menghantar semula sejarah. Pemampatan mengecilkannya, walaupun permintaan pemampatan itu sendiri membaca sejarah penuh sekali, dan prefix yang ditulis semula perlu dicache semula (token input cache).
- Risiko. Ringkasan boleh tercicir butiran yang penting kemudian. Tulis arahan tersuai tentang apa yang perlu disimpan, dan simpan fakta kritikal dalam fail nota.
Di BroadNet Inference
API BroadNet ialah Chat Completions tanpa keadaan (stateless): anda menghantar senarai mesej penuh setiap kali, dan dokumentasi BroadNet tidak menerangkan ciri pemampatan di pihak pelayan. Pemampatan berlaku dalam ejen atau alat anda, yang kemudian menghantar sejarah yang lebih pendek.
DeepSeek V4.1 Flash dan GLM 5.3 menerima 1,048,576 token konteks, jadi pemampatan kurang kerap diperlukan, tetapi perkara kos dan kualiti di atas masih terpakai pada bayar ikut guna. Pada pelan kadar tetap, tiada meter token, jadi pemampatan penting untuk kualiti dan kelajuan, bukan untuk bil. Pengurusan konteks untuk ejen jangka panjang menerangkan bila perlu memampatkan dan apa yang perlu dibuang dahulu.