BroadRouter
Inizia

Context compaction (compattazione del contesto)

Aggiornato

La context compaction è la pratica di riassumere una conversazione che si avvicina al limite della finestra di contesto e di proseguire la sessione da quel riassunto, così un agente conserva decisioni chiave e stato e scarta la cronologia grezza, come i vecchi output dei tool.

Detto anche: compattazione del contesto, compattazione, riassunto del contesto, compaction, auto-compact, conversation compaction, context summarization

Le sessioni lunghe degli agenti superano la propria finestra di contesto. La compaction sostituisce la cronologia completa con un riassunto e va avanti.

Come funziona

Il post di Anthropic sul context engineering definisce la compaction come “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (traduzione: la pratica di prendere una conversazione vicina al limite della finestra di contesto e riassumerne il contenuto) per poi avviare una nuova finestra di contesto con quel riassunto. In Claude Code, dice il post, il modello “preserves architectural decisions, unresolved bugs, and implementation details,” (traduzione: conserva le decisioni architetturali, i bug irrisolti e i dettagli di implementazione), scarta gli output dei tool ridondanti e prosegue con il riassunto più “the five most recently accessed files.” (traduzione: i cinque file aperti più di recente.)

La forma più leggera è la pulizia dei risultati dei tool. Lo stesso post la chiama “one of the safest lightest touch forms of compaction” (traduzione: una delle forme di compaction più sicure e meno invasive): i vecchi output grezzi dei tool, in profondità nella cronologia, vengono rimossi, e tutto il resto rimane.

Gli strumenti espongono la compaction in modi diversi:

Strumento Come avviene la compaction
Claude Code La compattazione automatica riassume la cronologia vicino al limite; /compact Focus on ... la avvia a mano con istruzioni su cosa conservare
OpenAI Responses API context_management con una compact_threshold compatta lato server quando il numero di token la supera, oppure chiami l’endpoint di compattazione autonomo
Il tuo agente Chiedi al modello di riassumere la cronologia, poi avvia una nuova lista di messaggi con system prompt, riassunto e turni più recenti

Un calcolo di esempio: un agente con 180.000 token di cronologia compatta in un riassunto da 6.000 token più 20.000 token di file recenti. Ogni turno successivo invia circa 26.000 token di cronologia invece di 180.000 e in crescita.

Perché è importante

  • Lunghezza. Senza compaction, un compito lungo si ferma quando la finestra di contesto è piena.
  • Qualità. L’accuratezza può calare molto prima del limite, un problema chiamato context rot. Un contesto più corto e più pulito può aiutare.
  • Costo. Con la fatturazione a token, ogni turno reinvia la cronologia. La compaction la riduce, anche se la richiesta di compattazione legge una volta l’intera cronologia, e il prefisso riscritto va rimesso in cache (token di input in cache).
  • Rischio. Un riassunto può perdere un dettaglio che servirà più avanti. Scrivi istruzioni personalizzate su cosa conservare e tieni i fatti critici in un file di note.

Su BroadNet Inference

L’API di BroadNet è una Chat Completions stateless: invii ogni volta la lista completa dei messaggi, e la documentazione di BroadNet non descrive una funzione di compaction lato server. La compaction avviene nel tuo agente o strumento, che poi invia la cronologia più corta.

DeepSeek V4.1 Flash e GLM 5.3 accettano 1.048.576 token di contesto, quindi la compaction serve meno spesso, ma i punti su costo e qualità visti sopra valgono comunque con il pagamento a consumo. Con un piano flat non c’è contatore di token, quindi la compaction conta per qualità e velocità più che per la bolletta. Gestione del contesto per agenti di lunga durata spiega quando compattare e cosa scartare per primo.

Domande frequenti

La compaction fa perdere informazioni?

Sì, per come è progettata. Un riassunto tiene ciò che chi riassume ha giudicato importante e scarta il resto. Tieni i fatti che non puoi perdere, come requisiti e bug aperti, in un file di note che l’agente può rileggere.

La compaction è gratuita?

No. La documentazione di Claude Code fa notare che la compattazione legge l’intera conversazione che riassume, quindi compattare un contesto grande è di per sé una richiesta grande. Ripartire da zero con /clear non costa nulla, ma non mantiene alcuna continuità.

La compaction rompe il prompt caching?

Riscrive la cronologia, quindi la richiesta successiva manca la cache per la parte riscritta. Claude Code lo considera una ricostruzione della cache prevista. Dopo, la cronologia più breve va in cache come al solito.

Leggi in MarkdownChiedi a ChatGPTChiedi a ClaudeChiedi a Perplexity