---
title: "Gestione del contesto per agenti LLM a lungo termine"
description: "Come mantenere precise ed economiche le sessioni lunghe di un agente con una finestra da 1M di token: storico append-only, cache, quando compattare e cosa tagliare."
url: https://broadrouter.com/it/blog/long-running-agent-context-management/
lang: it
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/blog/long-running-agent-context-management/) (aggiornato il 2026-11-16).

# Contesto degli agenti a lungo termine con una finestra da 1M

A cura del team di BroadNet Inference · 6 min di lettura · Pubblicato 2026-11-14 · Aggiornato 2026-11-16

Tratta il contesto come un log append-only: prima un system prompt e un elenco di tool fissi, poi uno storico che cresce soltanto, così ogni turno riusa il prefisso in cache. Con una finestra da 1.048.576 token, come su DeepSeek V4.1 Flash, compatta di rado e a grandi passi, taglia prima l’output voluminoso dei tool e tieni i fatti durevoli in un breve file di note che l’agente rilegge.

## Punti chiave

-   Una finestra grande rimanda i problemi di contesto, non li elimina. Pianifica cosa succede vicino al limite.
-   Uno storico append-only mantiene stabile il prefisso del prompt, così l’input in cache resta economico.
-   Ogni riscrittura dello storico precedente rompe la cache da quel punto in poi.
-   Taglia l’output voluminoso dei tool (log, dump di file) prima del ragionamento e delle decisioni.
-   Compatta di rado e a grandi passi, e tieni un breve file di note con i fatti durevoli.

**In questa pagina**

1.  Che cosa ottiene un agente a lungo termine da una finestra da 1M di token?
2.  Regola 1: perché lo storico dovrebbe essere append-only?
3.  Regola 2: come si misura il tasso di cache?
4.  Regola 3: cosa tagliare per primo quando il contesto cresce?
5.  Regola 4: quando un agente dovrebbe compattare lo storico?
6.  Regola 5: cosa va in un file di note?
7.  Come incidono i token di ragionamento sul budget?
8.  Conta anche con un piano flat?
9.  Checklist per la gestione del contesto

Un agente di coding che lavora per un pomeriggio accumula parecchio storico: file letti, comandi eseguiti, output dei test, piani, correzioni. A ogni turno tutto questo torna al modello. Il modo in cui gestisci quel contesto che cresce decide tre cose insieme: quanto costa ogni turno, quanto velocemente risponde e se l’agente si ricorda ancora cosa stava facendo.

Una finestra da 1M di token cambia i compromessi. Non li fa sparire.

## Che cosa ottiene un agente a lungo termine da una finestra da 1M di token?

Su BroadNet Inference, [DeepSeek V4.1 Flash](https://broadrouter.com/it/models/deepseek-v4.1-flash/) e [GLM 5.3](https://broadrouter.com/it/models/glm-5.3/) accettano fino a 1.048.576 token per richiesta, prompt e risposta insieme. [Qwen3.8 27B](https://broadrouter.com/it/models/qwen3.8-27b/) ne accetta 262.144. Con finestre più piccole un agente deve riassumere dopo un’ora o due di lavoro. Con un milione di token di solito può tenere lo storico grezzo di un’intera sessione e compattare solo verso la fine di un’esecuzione molto lunga.

È un vantaggio reale: i riassunti perdono informazioni, e ogni riassunto è un’occasione per dimenticare proprio il dettaglio che contava. Ma tre costi crescono comunque con il prompt:

-   **Denaro**, con una chiave a token, perché ogni turno rimanda l’intero prompt.
-   **Latenza**, perché il server deve elaborare ogni token di input prima del primo token di output.
-   **Attenzione.** La qualità può calare man mano che l’input cresce, un effetto chiamato [context rot](https://broadrouter.com/it/glossary/context-rot/). Il paper [“Lost in the Middle”](https://arxiv.org/abs/2307.03172) ha rilevato che i modelli tendono a usare in modo più affidabile le informazioni all’inizio e alla fine di un input lungo rispetto a quelle nel mezzo. I modelli più recenti vanno meglio, ma l’abitudine di tenere i fatti importanti vicino ai bordi ripaga ancora.

## Regola 1: perché lo storico dovrebbe essere append-only?

Il prompt caching confronta il prompt a partire dall’inizio. Se i primi 300.000 token di questo turno sono identici a quelli del turno precedente, possono essere serviti dalla cache; il primo token diverso chiude la corrispondenza. L’API di BroadNet lo riporta in `usage.prompt_tokens_details.cached_tokens` quando il modello lo fornisce, e fattura l’input in cache a una tariffa più bassa: $0.0055 per 1M di token su DeepSeek V4.1 Flash, contro $0.175 per l’input nuovo.

Quindi struttura ogni richiesta sempre nello stesso ordine e aggiungi solo in fondo:

```text
[ system prompt ]        never changes during a session
[ tool definitions ]     fixed order, never changes
[ project notes ]        changes rarely, and only by appending
[ turn 1 ... turn N ]    grows at the end
[ new message ]
```

I soliti colpevoli che rompono il prefisso sono un timestamp nel system prompt, definizioni dei tool in ordine instabile e il ri-rendering dei vecchi risultati dei tool. Per gli agenti aggiungine un altro: il taglio a «finestra scorrevole» che scarta ogni volta il turno più vecchio, spostando tutto ciò che viene dopo. Ognuno di questi trasforma un prompt in cache in un prompt nuovo; [struttura del prompt per la cache](https://broadrouter.com/it/blog/prompt-structure-for-caching/) elenca gli altri, con un test che dimostra che il prefisso è in cache. In una sessione lunga la differenza è grande: gran parte del prompt può essere input in cache invece che input nuovo. [Come viene fatturato l’input in cache](https://broadrouter.com/it/blog/cached-input-tokens-explained/).

## Regola 2: come si misura il tasso di cache?

Registralo nei log a ogni richiesta. Con l’SDK di OpenAI bastano tre righe dopo la chiamata:

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

resp = client.chat.completions.create(model="broadnet/deepseek-v4.1-flash", messages=history, max_tokens=8000)
u = resp.usage
cached = (u.prompt_tokens_details.cached_tokens if u.prompt_tokens_details else 0) or 0
print(f"turn prompt={u.prompt_tokens:,} cached={cached:,} ({cached / max(1, u.prompt_tokens):.0%})")
```

Un agente append-only in salute mostra una quota alta di token in cache a ogni turno dopo il primo. Un crollo improvviso vicino allo zero significa che qualcosa all’inizio del prompt è cambiato. Trovalo e fissalo. Il [calcolatore del prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/) trasforma un tasso di cache in denaro per sessione.

## Regola 3: cosa tagliare per primo quando il contesto cresce?

Quando il contesto deve davvero ridursi, conta cosa scarti. Nella maggior parte delle trascrizioni di un agente il grosso è output dei tool: un log di test da 4.000 righe, un file intero letto per trovare una funzione, l’elenco di una directory. La parte preziosa è piccola: il piano, le decisioni e il perché, gli errori corretti.

Ordine dei tagli, dal primo all’ultimo:

1.  **Output dei tool non più attuale.** Sostituisci il corpo dei vecchi risultati con uno stub di una riga: “ran pytest: 3 failures in test\_api.py (fixed in turn 14)”.
2.  **Contenuti di file superati.** Se l’agente ha letto `api.py`, l’ha modificato e poi l’ha riletto, la prima lettura è solo zavorra.
3.  **Esplorazioni che non hanno portato a nulla.** Ricerche e letture che non hanno prodotto una modifica.
4.  **Ragionamento e piani.** Tienili più a lungo di tutto. Spiegano perché il codice è fatto così.

Troncare l’output dei tool nel momento in cui viene prodotto è ancora meglio. Metti un tetto a ogni risultato (per esempio le ultime 200 righe di un log più il numero totale di righe) e lascia che l’agente chieda di più se gli serve. Così lo storico resta append-only e piccolo.

## Regola 4: quando un agente dovrebbe compattare lo storico?

La compattazione (riassumere lo storico più vecchio in un blocco più breve) è lo strumento pesante. Riscrive il prefisso, quindi il turno dopo una compattazione paga il prezzo pieno dell’input per tutto ciò che segue il system prompt. Compattare un po’ ogni pochi turni significa pagare quel prezzo ancora e ancora.

Meglio così:

-   **Scegli una soglia alta.** Con una finestra da 1M, compattare, per esempio, al 60–70% di riempimento lascia spazio al turno di riassunto e a una lunga coda di lavoro nuovo.
-   **Tieni la coda recente parola per parola.** Riassumi la parte vecchia e lascia intatto l’ultimo tratto di turni. La [documentazione sulla compaction](https://opencode.ai/docs/compaction/) di opencode descrive proprio questo: riassume la conversazione e mantiene la parte più recente, circa 15.000 token per impostazione predefinita.
-   **Riassumi con il prompt completo.** Mandare l’intera conversazione alla richiesta di riassunto le permette di riusare la cache del turno precedente.
-   **Compatta una volta, poi torna ad aggiungere.** Dopo una compattazione il nuovo prefisso è stabile, e la cache riparte da lì.

## Regola 5: cosa va in un file di note?

Alcuni fatti devono sopravvivere a qualsiasi numero di compattazioni: l’obiettivo, i vincoli, le decisioni prese, i comandi che compilano e testano il progetto. Tienili in un breve file di note (un `NOTES.md` o un file di task) a cui l’agente aggiunge righe e che rilegge. Sta vicino all’inizio del prompt, cambia di rado ed è la prima cosa che legge una sessione nuova se l’esecuzione riparte.

È anche la forma di memoria più economica: qualche migliaio di token che evitano all’agente di riscoprire gli stessi fatti dopo ogni riassunto.

## Come incidono i token di ragionamento sul budget?

DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B ragionano prima di rispondere, e il ragionamento conta in `max_tokens`. Una sessione lunga non cambia questo fatto, ma i prompt grandi spingono ad abbassare `max_tokens` per «fare spazio». Non farlo. Un budget di output stretto produce risposte vuote, che poi l’agente riprova. [Perché le risposte arrivano vuote](https://broadrouter.com/it/guides/reasoning-tokens-empty-response/).

Ricorda anche che la finestra conta prompt e risposta insieme. Vicino a 1.048.576 token di prompt non resta spazio per rispondere. Compatta prima di arrivarci; il [calcolatore della finestra di contesto](https://broadrouter.com/tools/context-window-calculator/) mostra quanto spazio lascia un certo prompt.

## Conta anche con un piano flat?

In una sessione di un piano BroadNet, DeepSeek V4.1 Flash non ha contatore di token: una sessione Full Moon costa $60 al mese, per quanto lunghi siano i prompt. L’argomento economico a favore della cache sparisce. Gli altri due no. In molti sistemi di serving un prefisso in cache viene in genere elaborato più in fretta, e un contesto ben gestito dà risposte migliori. Le abitudini sono le stesse; cambia solo il motivo. [Come funzionano le sessioni del piano](https://broadrouter.com/it/guides/unlimited-llm-api-sessions/).

## Checklist per la gestione del contesto

-   System prompt ed elenco dei tool fissi per tutta la sessione.
-   Storico solo in aggiunta; i turni vecchi non vengono mai riformattati.
-   Tasso di cache registrato a ogni richiesta.
-   Output dei tool limitato quando viene prodotto; output superato sostituito da uno stub più avanti.
-   Compattazione a una soglia alta, mantenendo intatta la coda recente.
-   Un file di note con obiettivo, vincoli e decisioni.
-   Budget di output abbastanza ampio per il ragionamento.

Per capire quando valga davvero la pena usare una finestra da un milione di token, leggi la [guida alla finestra di contesto da 1M](https://broadrouter.com/it/blog/million-token-context-window-guide/). Per fermare le sessioni che crescono senza fare progressi, leggi [come controllare il costo dei loop degli agenti](https://broadrouter.com/it/blog/cut-coding-agent-llm-costs/).

Strumenti gratuiti sul tema (in inglese)

-   [Agent run cost estimator](https://broadrouter.com/tools/agent-run-cost-estimator/) Context growth per step, total tokens and cost of one agent run, with a DeepSeek session comparison.
-   [LLM batch job planner](https://broadrouter.com/tools/llm-batch-job-planner/) Run time, binding limit, cost per model and the flat sessions needed to finish a big job by a deadline.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [LLM rate limit and concurrency calculator](https://broadrouter.com/tools/llm-rate-limit-calculator/) Which limit binds first: RPM, TPM or concurrency, with Little's law.

[Strumenti gratuiti (in inglese)](https://broadrouter.com/tools/)

## Termini in questo articolo

[Token](https://broadrouter.com/it/glossary/token/)

Un token è l’unità di testo che un modello linguistico legge e scrive: una parola, una parte di parola, un segno di punteggiatura o una sequenza di byte prodotta dal tokenizer del modello. Le API LLM contano, limitano e di solito fatturano l’uso in token.

[Context compaction (compattazione del contesto)](https://broadrouter.com/it/glossary/context-compaction/)

La context compaction è la pratica di riassumere una conversazione che si avvicina al limite della finestra di contesto e di proseguire la sessione da quel riassunto, così un agente conserva decisioni chiave e stato e scarta la cronologia grezza, come i vecchi output dei tool.

[Token di input in cache (cached input)](https://broadrouter.com/it/glossary/cached-input-tokens/)

I token di input in cache sono token del prompt che un provider LLM ha elaborato da poco e può riusare da una cache invece di ricalcolarli, di solito un prefisso ripetuto come un system prompt o un documento. I provider li fatturano a una tariffa più bassa dei token di input nuovi.

[System prompt (prompt di sistema)](https://broadrouter.com/it/glossary/system-prompt/)

Il system prompt è il testo di istruzioni che un’applicazione invia a un modello linguistico prima della conversazione, di solito come messaggio con ruolo system o developer. Stabilisce ruolo, regole, tono e formato di output del modello, che dovrebbe seguirlo anche quando i messaggi dell’utente lo contraddicono.

[Context rot (degrado del contesto)](https://broadrouter.com/it/glossary/context-rot/)

Il context rot è la perdita graduale di accuratezza e affidabilità che i modelli linguistici mostrano quando l’input si allunga, anche se il compito resta lo stesso e l’input è ben dentro la context window. Il termine è stato reso popolare da un report tecnico di Chroma del 2025 che ha testato 18 modelli.

[Finestra di contesto (context window)](https://broadrouter.com/it/glossary/context-window/)

La finestra di contesto è il numero massimo di token con cui un modello linguistico può lavorare in una singola richiesta. Comprende prompt, cronologia della conversazione, definizioni degli strumenti, immagini e output generato, token di ragionamento inclusi. Ciò che non ci sta va tagliato, riassunto o diviso su più richieste.

[Lost in the middle (perso nel mezzo)](https://broadrouter.com/it/glossary/lost-in-the-middle/)

Lost in the middle è la tendenza osservata dei modelli linguistici a usare meglio le informazioni rilevanti quando compaiono vicino all’inizio o alla fine di un input lungo, e peggio quando stanno nel mezzo. Il nome viene da uno studio del 2023 di Liu et al.

[Token di input e di output](https://broadrouter.com/it/glossary/input-and-output-tokens/)

I token di input sono quelli che un modello linguistico legge in una richiesta: system prompt, cronologia, definizioni degli strumenti e immagini. I token di output sono quelli che genera in risposta, ragionamento compreso. Le API LLM di solito li prezzano separatamente, e l’output costa di più.

## Domande frequenti

### Se il modello ha una finestra da 1M, perché gestire il contesto?

Perché costo, latenza e precisione cambiano tutti man mano che il prompt cresce. I prompt lunghi richiedono più tempo per essere elaborati, costano di più a ogni turno con una chiave a token, e la ricerca mostra che i modelli usano in modo meno affidabile le informazioni che stanno a metà di input lunghi.

### Come faccio a sapere se il mio agente sta usando la cache?

Quando il modello lo riporta, il blocco usage include prompt\_tokens\_details.cached\_tokens. Dividilo per prompt\_tokens a ogni richiesta e registra la percentuale nei log.

### La compattazione conta con un piano flat?

Non per la bolletta, perché una sessione del piano non ha contatore di token. Conta però per la velocità e per la qualità delle risposte nelle sessioni molto lunghe.

## Continua a leggere

-   [Quando conviene una finestra di contesto da 1M di token (e quando no)](https://broadrouter.com/it/blog/million-token-context-window-guide/)
-   [Token di input in cache: come ridurre la bolletta delle API LLM](https://broadrouter.com/it/blog/cached-input-tokens-explained/)
-   [10 modi per ridurre i costi LLM degli agenti di coding, con i risparmi](https://broadrouter.com/it/blog/cut-coding-agent-llm-costs/)
-   [Come far lavorare gli agenti di coding di notte, in sicurezza](https://broadrouter.com/it/blog/overnight-coding-agent-runs/)
-   [Costo di un’esecuzione di un agente di coding: passi, contesto, cache](https://broadrouter.com/it/blog/ai-coding-agent-run-cost/)
-   [Claude Code con modelli open-weight: proxy, endpoint nativi e limiti](https://broadrouter.com/it/blog/claude-code-with-openai-compatible-models/)
-   [Guida: Streaming delle chat completions e connessioni interrotte](https://broadrouter.com/it/guides/streaming-chat-completions/)
-   [Guida: Perché un modello di ragionamento restituisce una risposta vuota](https://broadrouter.com/it/guides/reasoning-tokens-empty-response/)
-   [Guida: Come funzionano i piani API LLM illimitati per gli agenti](https://broadrouter.com/it/guides/unlimited-llm-api-sessions/)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-blog-long-running-agent-context-management&utm_content=page-cta) ·

**Fonti**

-   [Riferimento API di BroadNet Inference, token di ragionamento e in cache (in inglese)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-blog-long-running-agent-context-management&utm_content=sources)
-   [Liu et al., Lost in the Middle: How Language Models Use Long Contexts (arXiv)](https://arxiv.org/abs/2307.03172)
-   [Documentazione di opencode, compaction](https://opencode.ai/docs/compaction/)
