Uzun ajan oturumları bağlam pencerelerini aşar. Sıkıştırma, tam geçmişi bir özetle değiştirip devam eder.
Nasıl çalışır
Anthropic’in bağlam mühendisliği yazısı sıkıştırmayı “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (çeviri: bağlam penceresi sınırına yaklaşan bir sohbeti alıp içeriğini özetleme pratiği) ve o özetle yeni bir bağlam penceresi başlatmak olarak tanımlar. Yazıya göre Claude Code’da model “preserves architectural decisions, unresolved bugs, and implementation details,” (çeviri: mimari kararları, çözülmemiş hataları ve uygulama ayrıntılarını korur), gereksiz araç çıktılarını atar ve özet artı “the five most recently accessed files.” (çeviri: en son erişilen beş dosya) ile devam eder.
En hafif biçimi araç sonucu temizlemedir. Aynı yazı onu “one of the safest lightest touch forms of compaction” (çeviri: en güvenli ve en hafif dokunuşlu sıkıştırma biçimlerinden biri) olarak adlandırır: geçmişin derinlerindeki eski ham araç çıktıları silinir, geri kalan her şey kalır.
Araçlar sıkıştırmayı farklı şekillerde sunar:
| Araç | Sıkıştırma nasıl çalışır |
|---|---|
| Claude Code | Otomatik sıkıştırma sınıra yaklaşınca geçmişi özetler; /compact Focus on ... neyin korunacağına dair talimatlarla elle çalıştırır |
| OpenAI Responses API | compact_threshold içeren context_management, token sayısı eşiği geçince sunucu tarafında sıkıştırır; ya da bağımsız compact uç noktasını çağırın |
| Kendi ajanınız | Modelden geçmişi özetlemesini isteyin, sonra sistem istemi, özet ve son turlarla yeni bir mesaj listesi başlatın |
Bir sayı örneği: 180.000 token geçmişe sahip bir ajan, 6.000 token’lık bir özet artı 20.000 token’lık son dosyalara sıkışır. Sonraki her tur, 180.000 ve büyüyen geçmiş yerine yaklaşık 26.000 token geçmiş gönderir.
Neden önemli
- Uzunluk. Sıkıştırma olmadan uzun bir görev bağlam penceresi dolunca durur.
- Kalite. Doğruluk sınıra gelinmeden çok önce düşebilir; buna bağlam çürümesi (context rot) denir. Daha kısa ve temiz bir bağlam yardımcı olabilir.
- Maliyet. Token başına faturalamada her tur geçmişi yeniden gönderir. Sıkıştırma onu küçültür; ancak sıkıştırma isteğinin kendisi tam geçmişi bir kez okur ve yeniden yazılan önek tekrar önbelleğe alınmalıdır (önbellekli girdi token’ları).
- Risk. Bir özet, sonradan önemli olacak bir ayrıntıyı atabilir. Neyin korunacağına dair özel talimatlar yazın ve kritik bilgileri bir not dosyasında tutun.
BroadNet Inference’ta
BroadNet’in API’si durumsuz (stateless) Chat Completions’tır: her seferinde tam mesaj listesini gönderirsiniz ve BroadNet’in belgeleri sunucu tarafında bir sıkıştırma özelliği tanımlamaz. Sıkıştırma ajanınızda veya aracınızda gerçekleşir; o da daha kısa geçmişi gönderir.
DeepSeek V4.1 Flash ve GLM 5.3 1.048.576 token bağlam kabul eder; bu yüzden sıkıştırmaya daha seyrek ihtiyaç duyulur, ama yukarıdaki maliyet ve kalite noktaları kullandıkça öde modelinde yine geçerlidir. Sabit fiyatlı bir planda token sayacı yoktur; bu yüzden sıkıştırma faturadan çok kalite ve hız için önemlidir. Uzun süre çalışan ajanlar için bağlam yönetimi ne zaman sıkıştırılacağını ve önce neyin atılacağını ele alır.