---
title: "Cos’è la KV cache? Come gli LLM riusano l’attenzione"
description: "La KV cache salva chiavi e valori di attenzione dei token già letti da un LLM, così ogni nuovo token costa poco. Come funziona e perché limita il contesto lungo."
url: https://broadrouter.com/it/glossary/kv-cache/
lang: it
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Tradotto dall’inglese con l’aiuto dell’IA. [Leggi l’originale in inglese](https://broadrouter.com/glossary/kv-cache/) (aggiornato il 2026-11-14).

# KV cache (cache chiave-valore)

Aggiornato 2026-11-14

La KV cache è la memoria in cui un modello linguistico transformer conserva le chiavi e i valori di attenzione calcolati per ogni token già elaborato, così ogni nuovo token li riusa invece di ricalcolare l’intera sequenza. Cresce con la lunghezza del contesto e spesso limita quante richieste una GPU può servire.

Detto anche: KV cache, cache chiave-valore, cache KV, cache dell’attenzione, memoria KV, key-value cache, past\_key\_values, attention cache, KV memory

Ogni volta che un modello scrive un token, riguarda tutti i token precedenti. La KV cache è ciò che rende economico questo sguardo all’indietro.

## Come funziona

L’attenzione confronta la query del token corrente con una chiave e un valore per ogni token precedente. Senza cache, il modello ricalcolerebbe a ogni passo tutte le chiavi e i valori precedenti. La guida al caching di Hugging Face riassume il compromesso: con una cache, “attention cost per step is linear with sequence length” (traduzione: il costo dell’attenzione per passo è lineare nella lunghezza della sequenza), mentre la memoria “grows linearly” (traduzione: cresce linearmente).

L’inferenza ha quindi due fasi:

1.  **Prefill.** Il modello legge l’intero prompt e riempie la cache. È la parte principale del [time to first token](https://broadrouter.com/it/glossary/time-to-first-token/).
2.  **Decode.** Ogni nuovo token aggiunge una chiave e un valore per layer, poi legge l’intera cache.

La dimensione della cache per token è circa `2 × layers × KV heads × head size × bytes per number`. Chi progetta i modelli interviene su ogni fattore. La scheda di DeepSeek per DeepSeek V4.1 Flash riporta una KV cache globale di 890 byte per token, con memorizzazione in FP4. Al contesto completo di 1.048.576 token fanno 890 × 1.048.576 = 933.232.640 byte, circa 890 MiB per una sola richiesta.

## Perché è importante

-   **Concorrenza e prezzo.** L’articolo su PagedAttention dice che servire molte richieste insieme è limitato perché la memoria della KV cache “is huge and grows and shrinks dynamically” (traduzione: è enorme e cresce e si riduce dinamicamente). vLLM gestisce quella memoria a pagine, come un sistema operativo, e riporta un [throughput](https://broadrouter.com/it/glossary/throughput/) da 2 a 4 volte più alto a parità di latenza.
-   **Il contesto lungo non è gratis.** Un provider deve tenere la cache di tutto il tuo prompt mentre genera. È uno dei motivi per cui le richieste a contesto lungo partono più lentamente.
-   **Il prompt caching si basa su di essa.** Conservare lo stato KV di un prefisso dopo la fine di una richiesta è ciò che un provider fattura come [token di input in cache](https://broadrouter.com/it/glossary/cached-input-tokens/). I prefissi stabili colpiscono quella cache più spesso; vedi [struttura del prompt per il caching](https://broadrouter.com/it/blog/prompt-structure-for-caching/).
-   **Anche qui vale la [quantizzazione](https://broadrouter.com/it/glossary/quantization/).** Salvare chiavi e valori con meno bit rimpicciolisce la cache, con qualche rischio per la qualità.

## Su BroadNet Inference

BroadNet non pubblica come gestisce la memoria della KV cache. Il suo riferimento API documenta però l’effetto visibile: `usage.prompt_tokens_details.cached_tokens` riporta i token del prompt letti dalla cache, fatturati al prezzo dell’input in cache, per esempio $0.0055 per 1M di token su [DeepSeek V4.1 Flash](https://broadrouter.com/it/models/deepseek-v4.1-flash/) contro $0.175 per l’input nuovo. Quel modello e GLM 5.3 accettano fino a 1.048.576 token per richiesta.

## Errori comuni

-   Considerare la lunghezza del contesto solo una questione di prezzo. Una cache più grande significa anche un prefill più lento.
-   Riordinare il system prompt a ogni turno. Il prefisso in cache non corrisponde più, quindi il provider lo ricalcola.

## Domande frequenti

### La KV cache è la stessa cosa del prompt caching?

Non esattamente. La KV cache vive dentro una singola richiesta mentre il modello genera. Il prompt caching conserva quello stato dopo la fine della richiesta, così una richiesta successiva con lo stesso prefisso può riusarlo, e i provider fatturano quei token come input in cache.

### Perché un prompt lungo usa così tanta memoria GPU?

Ogni token del contesto aggiunge le sue chiavi e i suoi valori alla cache, in ogni layer. Un prompt da un milione di token tiene in memoria lo stato di attenzione di un milione di token finché la risposta non è finita.

### Quanto è grande una KV cache?

Circa 2 × layer × head KV × dimensione della head × byte per numero, per ogni token del contesto. La scheda di DeepSeek riporta 890 byte per token per DeepSeek V4.1 Flash, circa 890 MiB con il contesto completo da 1.048.576 token.

## Vedi anche

-   [Token di input in cache (cached input)](https://broadrouter.com/it/glossary/cached-input-tokens/) (termine)
-   [Finestra di contesto (context window)](https://broadrouter.com/it/glossary/context-window/) (termine)
-   [Time to first token (TTFT)](https://broadrouter.com/it/glossary/time-to-first-token/) (termine)
-   [Throughput](https://broadrouter.com/it/glossary/throughput/) (termine)
-   [Quantizzazione (quantization)](https://broadrouter.com/it/glossary/quantization/) (termine)
-   [Speculative decoding (decodifica speculativa)](https://broadrouter.com/it/glossary/speculative-decoding/) (termine)
-   [Prefill e decode](https://broadrouter.com/it/glossary/prefill-and-decode/) (termine)
-   [vLLM](https://broadrouter.com/it/glossary/vllm/) (termine)
-   [Streaming delle chat completions e connessioni interrotte](https://broadrouter.com/it/guides/streaming-chat-completions/) (guida)
-   [Quando conviene una finestra di contesto da 1M di token (e quando no)](https://broadrouter.com/it/blog/million-token-context-window-guide/) (articolo)
-   [Come strutturare i prompt perché il prefisso vada in cache](https://broadrouter.com/it/blog/prompt-structure-for-caching/) (articolo)

Provalo sul tuo carico di lavoro reale. I nuovi account partono con USD 5 di credito per Gemma e trascrizione. DeepSeek, GLM e Qwen3.8 richiedono una ricarica.

[Inizia](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=it-glossary-kv-cache&utm_content=page-cta) ·

**Fonti**

-   [Kwon et al., Efficient Memory Management for LLM Serving with PagedAttention (vLLM), arXiv 2309.06180](https://arxiv.org/abs/2309.06180)
-   [Hugging Face Transformers, il caching spiegato](https://huggingface.co/docs/transformers/en/cache_explanation)
-   [DeepSeek, model card di DeepSeek-V4.1-Flash (byte di KV cache per token)](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash)
