BroadRouter
Mulai

Context compaction (pemadatan konteks)

Diperbarui

Context compaction adalah praktik meringkas percakapan yang mendekati batas context window lalu melanjutkan sesi dari ringkasan itu, sehingga agen tetap menyimpan keputusan dan status penting sambil membuang riwayat mentah seperti output tool lama.

Disebut juga: context compaction, pemadatan konteks, ringkasan konteks, kompaksi, compaction, auto-compact, conversation compaction, context summarization

Sesi agen yang panjang melampaui context window-nya. Compaction menukar riwayat lengkap dengan ringkasan lalu melanjutkan.

Cara kerjanya

Artikel context engineering dari Anthropic mendefinisikan compaction sebagai “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (terjemahan: praktik mengambil percakapan yang mendekati batas context window dan meringkas isinya) lalu memulai context window baru dengan ringkasan itu. Di Claude Code, menurut artikel itu, model “preserves architectural decisions, unresolved bugs, and implementation details,” (terjemahan: mempertahankan keputusan arsitektur, bug yang belum terselesaikan, dan detail implementasi), membuang output tool yang berulang, dan melanjutkan dengan ringkasan ditambah “the five most recently accessed files.” (terjemahan: lima file yang paling terakhir diakses.)

Bentuk paling ringan adalah pembersihan hasil tool. Artikel yang sama menyebutnya “one of the safest lightest touch forms of compaction” (terjemahan: salah satu bentuk compaction yang paling aman dan paling ringan): output tool mentah yang lama di bagian dalam riwayat dihapus, dan sisanya tetap.

Alat-alat menyediakan compaction dengan cara berbeda:

Alat Cara compaction berjalan
Claude Code Auto-compaction meringkas riwayat saat mendekati batas; /compact Focus on ... menjalankannya secara manual dengan instruksi tentang apa yang harus disimpan
OpenAI Responses API context_management dengan compact_threshold memadatkan di sisi server saat jumlah token melewatinya, atau panggil endpoint compact tersendiri
Agen Anda sendiri Minta model meringkas riwayat, lalu mulai daftar pesan baru berisi system prompt, ringkasan, dan giliran terbaru

Contoh hitungan: agen dengan riwayat 180.000 token dipadatkan menjadi ringkasan 6.000 token ditambah 20.000 token file terbaru. Setiap giliran berikutnya mengirim sekitar 26.000 token riwayat, bukan 180.000 yang terus bertambah.

Kenapa ini penting

  • Panjang. Tanpa compaction, tugas panjang berhenti saat context window penuh.
  • Kualitas. Akurasi bisa turun jauh sebelum batas, masalah yang disebut context rot. Konteks yang lebih pendek dan bersih bisa membantu.
  • Biaya. Pada penagihan per token, setiap giliran mengirim ulang riwayat. Compaction mengecilkannya, meskipun request compaction itu sendiri membaca riwayat lengkap sekali, dan prefiks yang ditulis ulang harus di-cache lagi (token input cache).
  • Risiko. Ringkasan bisa membuang detail yang ternyata penting nanti. Tulis instruksi khusus tentang apa yang harus disimpan, dan simpan fakta penting di file catatan.

Di BroadNet Inference

API BroadNet adalah Chat Completions yang stateless: Anda mengirim daftar pesan lengkap setiap kali, dan dokumentasi BroadNet tidak menjelaskan fitur compaction di sisi server. Compaction terjadi di agen atau alat Anda, yang kemudian mengirim riwayat yang lebih pendek.

DeepSeek V4.1 Flash dan GLM 5.3 menerima konteks 1.048.576 token, jadi compaction lebih jarang dibutuhkan, tetapi poin biaya dan kualitas di atas tetap berlaku pada bayar sesuai pemakaian. Pada paket harga tetap tidak ada meteran token, jadi compaction penting untuk kualitas dan kecepatan, bukan tagihan. Manajemen konteks untuk agen yang berjalan lama membahas kapan melakukan compaction dan apa yang dibuang lebih dulu.

Pertanyaan umum

Apakah compaction menghilangkan informasi?

Ya, memang dirancang begitu. Ringkasan menyimpan apa yang dianggap penting oleh peringkas dan membuang sisanya. Simpan fakta yang tidak boleh hilang, seperti kebutuhan dan bug yang masih terbuka, di file catatan yang bisa dibaca ulang oleh agen.

Apakah compaction gratis?

Tidak. Dokumentasi Claude Code menyebutkan bahwa compaction membaca seluruh percakapan yang diringkasnya, jadi memadatkan konteks besar itu sendiri adalah request besar. Memulai dari awal dengan /clear tidak memakan biaya, tetapi tidak menyimpan kesinambungan.

Apakah compaction merusak prompt caching?

Compaction menulis ulang riwayat, jadi request berikutnya tidak mengenai cache untuk bagian yang ditulis ulang. Claude Code menganggapnya sebagai pembangunan ulang cache yang wajar. Setelah itu, riwayat yang lebih pendek di-cache seperti biasa.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity