Le sessioni lunghe degli agenti superano la propria finestra di contesto. La compaction sostituisce la cronologia completa con un riassunto e va avanti.
Come funziona
Il post di Anthropic sul context engineering definisce la compaction come “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (traduzione: la pratica di prendere una conversazione vicina al limite della finestra di contesto e riassumerne il contenuto) per poi avviare una nuova finestra di contesto con quel riassunto. In Claude Code, dice il post, il modello “preserves architectural decisions, unresolved bugs, and implementation details,” (traduzione: conserva le decisioni architetturali, i bug irrisolti e i dettagli di implementazione), scarta gli output dei tool ridondanti e prosegue con il riassunto più “the five most recently accessed files.” (traduzione: i cinque file aperti più di recente.)
La forma più leggera è la pulizia dei risultati dei tool. Lo stesso post la chiama “one of the safest lightest touch forms of compaction” (traduzione: una delle forme di compaction più sicure e meno invasive): i vecchi output grezzi dei tool, in profondità nella cronologia, vengono rimossi, e tutto il resto rimane.
Gli strumenti espongono la compaction in modi diversi:
| Strumento | Come avviene la compaction |
|---|---|
| Claude Code | La compattazione automatica riassume la cronologia vicino al limite; /compact Focus on ... la avvia a mano con istruzioni su cosa conservare |
| OpenAI Responses API | context_management con una compact_threshold compatta lato server quando il numero di token la supera, oppure chiami l’endpoint di compattazione autonomo |
| Il tuo agente | Chiedi al modello di riassumere la cronologia, poi avvia una nuova lista di messaggi con system prompt, riassunto e turni più recenti |
Un calcolo di esempio: un agente con 180.000 token di cronologia compatta in un riassunto da 6.000 token più 20.000 token di file recenti. Ogni turno successivo invia circa 26.000 token di cronologia invece di 180.000 e in crescita.
Perché è importante
- Lunghezza. Senza compaction, un compito lungo si ferma quando la finestra di contesto è piena.
- Qualità. L’accuratezza può calare molto prima del limite, un problema chiamato context rot. Un contesto più corto e più pulito può aiutare.
- Costo. Con la fatturazione a token, ogni turno reinvia la cronologia. La compaction la riduce, anche se la richiesta di compattazione legge una volta l’intera cronologia, e il prefisso riscritto va rimesso in cache (token di input in cache).
- Rischio. Un riassunto può perdere un dettaglio che servirà più avanti. Scrivi istruzioni personalizzate su cosa conservare e tieni i fatti critici in un file di note.
Su BroadNet Inference
L’API di BroadNet è una Chat Completions stateless: invii ogni volta la lista completa dei messaggi, e la documentazione di BroadNet non descrive una funzione di compaction lato server. La compaction avviene nel tuo agente o strumento, che poi invia la cronologia più corta.
DeepSeek V4.1 Flash e GLM 5.3 accettano 1.048.576 token di contesto, quindi la compaction serve meno spesso, ma i punti su costo e qualità visti sopra valgono comunque con il pagamento a consumo. Con un piano flat non c’è contatore di token, quindi la compaction conta per qualità e velocità più che per la bolletta. Gestione del contesto per agenti di lunga durata spiega quando compattare e cosa scartare per primo.