---
title: "KV önbelleği (KV cache) nedir? LLM'de dikkat önbelleği"
description: "KV önbelleği, bir LLM'nin okuduğu token'ların dikkat anahtar ve değerlerini saklar; her yeni token ucuza hesaplanır. Nasıl çalışır, uzun bağlamı neden sınırlar?"
url: https://broadrouter.com/tr/glossary/kv-cache/
lang: tr
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/glossary/kv-cache/) (güncelleme: 2026-11-14).

# KV önbelleği (KV cache)

Güncellendi 2026-11-14

KV önbelleği, bir transformer dil modelinin daha önce işlediği her token için hesapladığı dikkat anahtarlarını ve değerlerini sakladığı bellektir; böylece her yeni token tüm diziyi yeniden hesaplamak yerine bunları yeniden kullanır. Bağlam uzunluğuyla büyür ve çoğu zaman bir GPU'nun kaç isteğe hizmet verebileceğini sınırlar.

Diğer adları: KV önbelleği, KV önbellek, anahtar-değer önbelleği, dikkat önbelleği, KV cache, key-value cache, past\_key\_values, attention cache, KV memory

Bir model her token yazdığında, kendisinden önceki her token’a geri bakar. Bu geriye bakışı ucuz yapan şey KV önbelleğidir.

## Nasıl çalışır

Dikkat mekanizması, geçerli token’ın sorgusunu (query) önceki her token’ın bir anahtarı (key) ve bir değeriyle (value) karşılaştırır. Önbellek olmasaydı model her adımda önceki tüm anahtar ve değerleri yeniden hesaplardı. Hugging Face’in önbelleğe alma rehberi bu takası şöyle özetler: önbellekle “attention cost per step is linear with sequence length” (çeviri: adım başına dikkat maliyeti dizi uzunluğuyla doğrusaldır), bellek ise “grows linearly” (çeviri: doğrusal büyür).

Bu yüzden çıkarımın iki aşaması vardır:

1.  **Prefill.** Model tüm istemi okur ve önbelleği doldurur. [İlk token’a kadar geçen sürenin](https://broadrouter.com/tr/glossary/time-to-first-token/) büyük kısmı budur.
2.  **Decode.** Her yeni token katman başına bir anahtar ve bir değer ekler, ardından tüm önbelleği okur.

Token başına önbellek boyutu kabaca `2 × layers × KV heads × head size × bytes per number` (2 × katman × KV başı × baş boyutu × sayı başına bayt) şeklindedir. Model tasarımcıları her terimi küçültmeye çalışır. DeepSeek’in DeepSeek V4.1 Flash kartı, FP4 depolama kullanarak token başına 890 baytlık bir global KV önbelleği bildirir. 1.048.576 token’lık tam bağlamda bu, 890 × 1.048.576 = 933.232.640 bayt, yani tek bir istek için yaklaşık 890 MiB eder.

## Neden önemli

-   **Eşzamanlılık ve fiyat.** PagedAttention makalesi, aynı anda çok sayıda isteğe hizmet vermenin sınırlı olduğunu, çünkü KV önbelleği belleğinin “is huge and grows and shrinks dynamically” (çeviri: devasa olduğunu ve dinamik olarak büyüyüp küçüldüğünü) söyler. vLLM bu belleği bir işletim sistemi gibi sayfalara böler ve aynı gecikmede 2 ila 4 kat daha yüksek [işlem hacmi](https://broadrouter.com/tr/glossary/throughput/) bildirir.
-   **Uzun bağlam bedava değildir.** Sağlayıcı, üretim yaparken tüm isteminizin önbelleğini tutmak zorundadır. Uzun bağlamlı isteklerin daha geç başlamasının bir nedeni budur.
-   **İstem önbelleğe alma bunun üzerine kurulur.** Bir önekin KV durumunu istek bittikten sonra tutmak, sağlayıcının [önbellekli girdi token’ları](https://broadrouter.com/tr/glossary/cached-input-tokens/) olarak faturalandırdığı şeydir. Sabit önekler bu önbelleğe daha sık isabet eder; bkz. [önbelleğe alma için istem yapısı](https://broadrouter.com/tr/blog/prompt-structure-for-caching/).
-   **[Kuantizasyon](https://broadrouter.com/tr/glossary/quantization/) burada da geçerlidir.** Anahtar ve değerleri daha az bitle saklamak önbelleği küçültür, ancak kaliteye belirli bir risk getirir.

## BroadNet Inference’ta

BroadNet, KV önbelleği belleğini nasıl yönettiğini yayımlamaz. API referansının belgelediği şey görünür etkidir: `usage.prompt_tokens_details.cached_tokens`, önbellekten okunan istem token’larını bildirir ve bunlar önbellekli girdi fiyatından faturalandırılır; örneğin [DeepSeek V4.1 Flash](https://broadrouter.com/tr/models/deepseek-v4.1-flash/) modelinde yeni girdi için $0.175 karşısında 1M token başına $0.0055. Bu model ve GLM 5.3, istek başına 1.048.576 token’a kadar kabul eder.

## Sık yapılan hatalar

-   Bağlam uzunluğunu yalnızca bir fiyat meselesi olarak görmek. Daha büyük bir önbellek, daha yavaş bir prefill demektir.
-   Sistem istemini her turda yeniden sıralamak. Önbellekli önek artık eşleşmez ve sağlayıcı onu yeniden hesaplar.

## Sık sorulan sorular

### KV önbelleği, istem önbelleğe alma (prompt caching) ile aynı mı?

Tam olarak değil. KV önbelleği, model üretim yaparken tek bir isteğin içinde yaşar. İstem önbelleğe alma bu durumu istek bittikten sonra da tutar; böylece aynı önekle gelen sonraki bir istek onu yeniden kullanabilir ve sağlayıcılar bu token'ları önbellekli girdi olarak faturalandırır.

### Uzun bir istem neden bu kadar çok GPU belleği kullanır?

Bağlamdaki her token, anahtarlarını ve değerlerini her katmanda önbelleğe ekler. Bir milyon token'lık bir istem, yanıt bitene kadar bir milyon token'lık dikkat durumunu bellekte tutar.

### KV önbelleği ne kadar büyüktür?

Bağlamdaki her token için kabaca 2 × katman × KV başı × baş boyutu × sayı başına bayt. DeepSeek'in kartı, DeepSeek V4.1 Flash için token başına 890 bayt bildirir; bu, 1.048.576 token'lık tam bağlamda yaklaşık 890 MiB eder.

## Ayrıca bakın

-   [Önbellekli girdi token'ları (cached input tokens)](https://broadrouter.com/tr/glossary/cached-input-tokens/) (terim)
-   [Bağlam penceresi (context window)](https://broadrouter.com/tr/glossary/context-window/) (terim)
-   [İlk token süresi (TTFT)](https://broadrouter.com/tr/glossary/time-to-first-token/) (terim)
-   [İşlem hacmi (throughput)](https://broadrouter.com/tr/glossary/throughput/) (terim)
-   [Kuantizasyon (quantization)](https://broadrouter.com/tr/glossary/quantization/) (terim)
-   [Spekülatif çözümleme (speculative decoding)](https://broadrouter.com/tr/glossary/speculative-decoding/) (terim)
-   [Prefill ve decode (LLM çıkarım aşamaları)](https://broadrouter.com/tr/glossary/prefill-and-decode/) (terim)
-   [vLLM](https://broadrouter.com/tr/glossary/vllm/) (terim)
-   [Chat completions akışı ve kopan bağlantıları ele alma](https://broadrouter.com/tr/guides/streaming-chat-completions/) (rehber)
-   [1M token'lık bağlam penceresi ne zaman değer (ve ne zaman değmez)?](https://broadrouter.com/tr/blog/million-token-context-window-guide/) (yazı)
-   [Önek önbelleğe alınsın diye istem nasıl yapılandırılır?](https://broadrouter.com/tr/blog/prompt-structure-for-caching/) (yazı)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-glossary-kv-cache&utm_content=page-cta) ·

**Kaynaklar**

-   [Kwon vd., Efficient Memory Management for LLM Serving with PagedAttention (vLLM), arXiv 2309.06180](https://arxiv.org/abs/2309.06180)
-   [Hugging Face Transformers, önbelleğe alma açıklaması](https://huggingface.co/docs/transformers/en/cache_explanation)
-   [DeepSeek, DeepSeek-V4.1-Flash model kartı (token başına KV önbelleği baytı)](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash)
