---
title: "İstem önbellekleme için istem yapısı: sabit önek tasarımı"
description: "Önbelleklenen önek aynı kalsın diye LLM istemlerinin düzeni: sistem istemi, araç şemaları, belgeler, yalnızca sona eklenen geçmiş ve bunu kanıtlayan bir test."
url: https://broadrouter.com/tr/blog/prompt-structure-for-caching/
lang: tr
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/blog/prompt-structure-for-caching/) (güncelleme: 2026-11-16).

# Önek önbelleğe alınsın diye istem nasıl yapılandırılır?

BroadNet Inference ekibi · 4 dk okuma · Yayımlandı 2026-11-14 · Güncellendi 2026-11-16

Her isteği en sabitten en değişkene doğru sıralayın: sistem istemi, araç tanımları, başvuru belgeleri, konuşma geçmişi ve en sonda yeni mesaj. Her katmanı çağrılar arasında bayt bayt aynı tutun: en üstte zaman damgası veya kimlik olmasın, araçlar sıralı olsun, JSON deterministik serileştirilsin ve geçmişe yalnızca ekleme yapılsın. Ardından önekin gerçekten yeniden kullanıldığını doğrulamak için cached\_tokens değerini ölçün.

## Öne çıkanlar

-   Önbellekler birebir aynı öneki eşler. Değişen tek bir bayt, kendisinden sonraki her şeyi geçersiz kılar; bu yüzden katmanların sırası boyutlarından daha önemlidir.
-   En sabitten başlayarak dört katman: sistem istemi, araçlar, belgeler, geçmiş. Yeni kullanıcı turu en sona gelir.
-   Araçları ve JSON belgelerini sıralı anahtarlar ve sabit ayırıcılarla serileştirin; sözlük sırası sessiz bir önbellek bozucudur.
-   Araç tanımlarını kaldırmak yerine, çağrı başına araçları tool\_choice ile kısıtlayın.
-   Test edin: aynı öneki iki kez gönderin ve ikinci çağrıda prompt\_tokens\_details.cached\_tokens değerinin arttığını kontrol edin.

**Bu sayfada**

1.  İstem sırası önbellek isabet oranını neden belirler?
2.  Doğru katman sırası nedir?
3.  Öneki farkına varmadan ne bozar?
4.  Önbellek dostu bir isteği kodda nasıl kurarsınız?
5.  Önekin önbelleklendiğini nasıl kanıtlarsınız?
6.  Ajanlar ve uzun bağlam için ne değişir?
7.  BroadNet Inference nereye oturuyor

[Önbellekli girdi token’ları](https://broadrouter.com/tr/glossary/cached-input-tokens/) ucuzdur; BroadNet Inference’ta DeepSeek V4.1 Flash bunları 1M başına $0.175 yerine $0.0055 ile faturalandırır. Fiyatı ve usage alanının nasıl okunacağını [önbellekli token’lar yazısı](https://broadrouter.com/tr/blog/cached-input-tokens-explained/) anlatıyor. Bu yazı ise tasarım işiyle ilgili: önbelleğin gerçekten isabet etmesi için bir istemi nasıl düzenleyeceğiniz ve bunu nasıl kanıtlayacağınız.

## İstem sırası önbellek isabet oranını neden belirler?

Tüm büyük sağlayıcılar **önek** bazında önbelleğe alır. OpenAI’nin rehberi, yeniden kullanım için işlenmiş önekin tamamının eşleşmesi gerektiğini söyler. DeepSeek belgeleri de aynı kuralı anlatır: bir istek yalnızca saklanan bir önekle tamamen eşleşirse isabet eder; yarı yolda ayrışan bir istek isabet etmez. Anthropic ise önbelleğini araçlar, sistem, mesajlar sırasıyla kurar.

Arka planda sunucu, o önek için oluşturduğu [KV önbelleğini](https://broadrouter.com/tr/glossary/kv-cache/) yeniden kullanır. Yani önbellek ilk token’dan başlayan düz bir çizgidir. Önceki çağrıdan farklı olan ilk bayt, yeniden kullanılabilir kısmı bitirir. 50.000 token’lık bir istemin en üstündeki tek satırlık bir zaman damgası, size 50.000 token’ın tamamını tam fiyattan ödetir.

## Doğru katman sırası nedir?

| Katman | Değişme sıklığı | Örnek | Kural |
| --- | --- | --- | --- |
| 1\. Sistem istemi | Dağıtım başına | Rol, kurallar, çıktı formatı | Tarih, kimlik, kullanıcı adı yok |
| 2\. Araç tanımları | Dağıtım başına | Fonksiyon şemaları | Sıralı, deterministik JSON |
| 3\. Başvuru materyali | Oturum veya görev başına | Depo dosyaları, sözleşmeler, ürün belgeleri | Sabit sıra, sabit etiketler |
| 4\. Konuşma geçmişi | Tur başına, yalnızca ekleme | Önceki kullanıcı ve asistan turları | Asla düzenlemeyin; yalnızca ekleyin |
| 5\. Yeni mesaj | Her çağrıda | Soru, gerekiyorsa şu anki zamanla birlikte | Değişken veri buraya |

Değişken olan her şeyin yeri 5. katmandır: güncel tarih, kullanıcının yerel ayarı, bir istek kimliği, soruya göre değişen getirilmiş parçalar.

## Öneki farkına varmadan ne bozar?

1.  **Sözlük sırası.** Framework’ler `tools` dizisini çoğu zaman bir sözlükten veya kayıt defterinden oluşturur. Eklentiler farklı sırayla yüklenirse baytlar değişir.
2.  **JSON biçimlendirmesi.** `json.dumps(x)` ve `json.dumps(x, indent=2)` farklı öneklerdir. Anahtar sırası farklı iki serileştirici de öyle.
3.  **Şablon boşlukları.** Sondaki bir boşluk ya da bir kod yolundan gelen `\r\n` ile diğerinden gelen `\n`.
4.  **Dinamik araç listeleri.** Kullanıcının kullanamayacağı araçları kaldırmak öneki değiştirir. OpenAI’nin rehberi tanımları sabit tutmayı ve kullanımı `tool_choice` ya da izin verilen araçlar ayarıyla kısıtlamayı önerir.
5.  **Geçmişi yerinde özetlemek.** Eski turları bir özete dönüştürmek, sistem isteminden sonraki her şeyi sıfırlar. Seyrek ve büyük adımlarla özetleyin.
6.  **Talimatlardan önce getirme.** Sistem istemi ile araçlar arasına konan RAG parçaları sorguya göre değişir ve araç katmanını da bozar.

## Önbellek dostu bir isteği kodda nasıl kurarsınız?

Her katmanı yalnızca sabit girdilerin bir fonksiyonu yapın ve deterministik olarak serileştirin:

```python
import json, os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

SYSTEM = open("prompts/system.md").read()  # versioned file, no templating

def stable_tools(registry: dict) -> list:
    # Sort by name, sort keys inside each schema.
    return [json.loads(json.dumps(registry[name], sort_keys=True)) for name in sorted(registry)]

def docs_block(paths: list[str]) -> str:
    parts = [f"=== {p} ===\n{open(p).read()}" for p in sorted(paths)]
    return "\n\n".join(parts)

def build_messages(history: list, user_text: str, now_iso: str, doc_paths: list[str]):
    return (
        [{"role": "system", "content": SYSTEM},
         {"role": "user", "content": docs_block(doc_paths)}]
        + history                                   # append-only
        + [{"role": "user", "content": f"(now: {now_iso})\n{user_text}"}]
    )

resp = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=build_messages(history, question, now_iso, files),
    tools=stable_tools(TOOLS),
)
history += [{"role": "user", "content": question}, resp.choices[0].message.model_dump(exclude_none=True)]
```

İki ayrıntı var. Şu anki zaman sistem istemine değil, son mesaja girer. Geçmiş de asistan mesajını tam olarak döndüğü haliyle saklar; böylece sonraki çağrı aynı baytları yeniden gönderir.

## Önekin önbelleklendiğini nasıl kanıtlarsınız?

CI’da veya bir notebook’ta iki çağrılık bir test çalıştırın:

1.  Gerçek sistem isteminiz, araçlarınız ve belgelerinizle bir istek oluşturun.
2.  Gönderin. `usage.prompt_tokens` değerini not edin.
3.  Yalnızca son kullanıcı mesajını değiştirip yeniden gönderin.
4.  İkinci çağrıda `usage.prompt_tokens_details.cached_tokens` değerini okuyun. Ortak önekin neredeyse tamamını kapsamalıdır.
5.  Sıfır veya küçükse, serileştirilmiş istek gövdelerini bayt bayt karşılaştırın. İlk fark sizin önbellek bozucunuzdur.

Önbellekleme çoğu sağlayıcıda en iyi çaba esasına dayanır ve DeepSeek belgeleri bunu açıkça söyler; bu yüzden tek bir ıska bir hatanın kanıtı değildir. Sürekli ıskalama ise öyledir. [Kullanım kayıtlarınızda](https://broadrouter.com/tr/blog/llm-api-usage-logging/) istek başına önbellekli token’ların istem token’larına oranını izleyin ve daha yüksek bir isabet oranının ne kazandıracağını görmek için [istem önbellekleme hesaplayıcısını](https://broadrouter.com/tools/prompt-caching-calculator/) kullanın.

## Ajanlar ve uzun bağlam için ne değişir?

En çok ajanlar kazanır, çünkü görev başına aynı büyük öneki onlarca kez yeniden gönderirler. İki alışkanlık önemlidir:

-   **Görev başına tek konuşma.** Her alt adım için yeni bir konuşma başlatmak öneki çöpe atar.
-   **Dosyaları bir kez, en üste yakın okuyun.** Ajan bir dosyayı yeniden okursa, dosya değişmediyse eskisini değiştirmek yerine yeni kopyayı sona ekleyin.

[1M token’lık bağlam penceresiyle](https://broadrouter.com/tr/blog/million-token-context-window-guide/) 3. katman bütün bir depoyu tutabilir. Token başına bir anahtarda bu ancak önbelleğe alındığında karşılanabilir olur; istemler büyüdükçe katman sırasının daha çok önem kazanması bu yüzdendir. Önbellekli önekler ilk token süresini de genellikle kısaltır; bkz. [TTFT ve işlem hacmi](https://broadrouter.com/tr/blog/llm-latency-ttft-throughput/).

## BroadNet Inference nereye oturuyor

BroadNet Inference’ta usage bloğu, model raporladığında `prompt_tokens_details.cached_tokens` değerini içerir; [DeepSeek V4.1 Flash](https://broadrouter.com/tr/models/deepseek-v4.1-flash/), [GLM 5.3](https://broadrouter.com/tr/models/glm-5.3/) ve [Qwen3.8 27B](https://broadrouter.com/tr/models/qwen3.8-27b/) üzerindeki önbellekli girdi, [fiyat sayfasında](https://broadrouter.com/tr/pricing/) listelenen düşük ücretle faturalandırılır. BroadNet belgelerinde açık önbellek kesme noktaları veya bir önbellek anahtarı parametresi sunmaz; bu yüzden yukarıdaki düzen tekniğin tamamıdır. Sınırsız bir planda önbellek faturayı değiştirmez, çünkü oturumlarda token sayacı yoktur; ama aynı yapı gecikmeye yine de yardımcı olur.

Bu konu için ücretsiz araçlar (İngilizce)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Ücretsiz araçlar (İngilizce)](https://broadrouter.com/tools/)

## Bu yazıdaki terimler

[Token](https://broadrouter.com/tr/glossary/token/)

Token, bir dil modelinin okuduğu ve yazdığı metin birimidir: modelin tokenizer'ının ürettiği bir kelime, kelime parçası, noktalama işareti veya bayt dizisi. LLM API'leri kullanımı token cinsinden sayar, sınırlar ve genellikle faturalandırır.

[Girdi ve çıktı token'ları](https://broadrouter.com/tr/glossary/input-and-output-tokens/)

Girdi token'ları, bir dil modelinin istekte okuduğu token'lardır: sistem istemi, konuşma geçmişi, araç tanımları ve görseller dahil. Çıktı token'ları ise modelin yanıt olarak ürettikleridir, akıl yürütme dahil. LLM API'leri bunları genellikle ayrı fiyatlandırır ve çıktı genellikle daha pahalıdır.

[Önbellekli girdi token'ları (cached input tokens)](https://broadrouter.com/tr/glossary/cached-input-tokens/)

Önbellekli girdi token'ları, bir LLM sağlayıcısının kısa süre önce işlediği ve yeniden hesaplamak yerine önbellekten kullanabildiği istem token'larıdır; genellikle sistem istemi veya belge gibi tekrarlanan bir önektir. Sağlayıcılar bunları yeni girdi token'larından daha düşük ücretle faturalandırır.

[Sistem istemi (system prompt)](https://broadrouter.com/tr/glossary/system-prompt/)

Sistem istemi (system prompt), bir uygulamanın konuşmadan önce dil modeline gönderdiği talimat metnidir; genellikle system veya developer rolündeki bir mesajdır. Modelin rolünü, kurallarını, üslubunu ve çıktı biçimini belirler; model, çelişen kullanıcı mesajlarına karşı buna uymak üzere eğitilir.

[Araç çağırma (tool calling)](https://broadrouter.com/tr/glossary/tool-calling/)

Araç çağırma (tool calling), fonksiyon çağırma (function calling) olarak da bilinir; modelin, geliştiricinin tanımladığı bir fonksiyonu çalıştırmak için JSON argümanlı yapılandırılmış bir istek döndürdüğü bir LLM API özelliğidir. Fonksiyonu uygulama çalıştırır ve sonucu geri gönderir; model hiçbir zaman kodu kendisi çalıştırmaz.

[İlk token süresi (TTFT)](https://broadrouter.com/tr/glossary/time-to-first-token/)

İlk token süresi (time to first token, TTFT), bir dil modeline istek gönderildiği andan ilk çıktı token'ının geldiği ana kadar geçen süredir. Ağ süresini, sunucudaki kuyruk beklemesini ve modelin tüm istemi okuduğu ön doldurma (prefill) adımını içerir; bu yüzden istem uzunluğu ve yükle birlikte artar.

[İşlem hacmi (throughput)](https://broadrouter.com/tr/glossary/throughput/)

İşlem hacmi (throughput), LLM sunumunda bir sistemin tüm eşzamanlı isteklerde birim zamanda tamamladığı toplam iş miktarıdır; genellikle saniyedeki çıktı token'ı veya saniyedeki istek olarak ölçülür. Tek bir isteğin token'larını ne kadar hızlı aldığını gösteren akış başına hızdan farklıdır.

[Zaman damgaları (konuşmadan metne)](https://broadrouter.com/tr/glossary/timestamps-asr/)

Konuşmadan metnede zaman damgaları, transkriptin parçalarına eklenen saniye cinsinden başlangıç ve bitiş zamanlarıdır. Segment zaman damgaları bir ifadeyi veya cümleyi, kelime zaman damgaları her kelimeyi kapsar. Altyazılar, kayıt içinde arama ve metni konuşmacılarla hizalamak için gereklidir.

## Sık sorulan sorular

### İstem önbellek isabet oranım neden düşük?

İstemin başına yakın bir şey her çağrıda değişiyor. Olağan nedenler: sistem isteminde bir zaman damgası veya istek kimliği, farklı sırayla serileştirilen araçlar, talimatlardan önce yerleştirilen getirilmiş belgeler ya da özetlenip yeniden yazılan geçmiş.

### Kullanıcı sorusu uzun belgelerden önce mi sonra mı gelmeli?

Sonra. Belgeleri başa, soruyu sona koyun. Böylece belgeler yeniden kullanılabilir bir önek oluşturur; birçok model de soru materyalin ardından geldiğinde daha iyi yanıt verir.

### Araç tanımları istem önbelleklemeyi bozar mı?

Yalnızca değişirlerse. Araçlar önekin parçasıdır; bu yüzden aynı seti aynı sırada ve aynı JSON ile tutun. Tek bir çağrıda araçları sınırlamak için listeyi düzenlemek yerine tool\_choice kullanın.

### Few-shot örneklerin sırası önbellekleme için önemli mi?

Evet. Karıştırılmış örnekler her seferinde farklı bir önek üretir. Sırayı sabitleyin ya da istek başına değişen örnekleri sabit kısmın sonrasına koyun.

## Okumaya devam edin

-   [Önbellekli girdi tokenları: LLM API faturası nasıl düşürülür](https://broadrouter.com/tr/blog/cached-input-tokens-explained/)
-   [1M token'lık bağlam penceresi ne zaman değer (ve ne zaman değmez)?](https://broadrouter.com/tr/blog/million-token-context-window-guide/)
-   [Sabit fiyatlı mı, token başına mı LLM API: başa baş hesabı](https://broadrouter.com/tr/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [BroadNet'in GPU donanımı ve sunum yaklaşımı, BroadNet'in anlatımıyla](https://broadrouter.com/tr/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM API yanıtlarını önbelleğe alıp maliyeti düşürün: Python örneği](https://broadrouter.com/tr/blog/cache-llm-responses-cut-cost/)
-   [Rehber: Chat completions akışı ve kopan bağlantıları ele alma](https://broadrouter.com/tr/guides/streaming-chat-completions/)
-   [Rehber: OpenAI Python SDK'yı BroadNet Inference ile kullanın](https://broadrouter.com/tr/guides/openai-python-sdk/)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-blog-prompt-structure-for-caching&utm_content=page-cta) ·

**Kaynaklar**

-   [BroadNet Inference API referansı, usage içinde önbellekli token'lar (2026-11-16'da kontrol edildi) (İngilizce)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-blog-prompt-structure-for-caching&utm_content=sources)
-   [OpenAI istem önbellekleme rehberi, önek eşleme ve yapılandırma önerileri (2026-11-14 tarihinde erişildi)](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [Anthropic istem önbellekleme belgeleri, önbellek sırası önce araçlar, sonra sistem, sonra mesajlar (2026-11-16'da kontrol edildi)](https://platform.claude.com/docs/en/build-with-claude/prompt-caching)
-   [DeepSeek API belgeleri, bağlam önbellekleme (2026-11-14 tarihinde erişildi)](https://api-docs.deepseek.com/guides/kv_cache)
