---
title: "Cara mengurangkan token prompt: diukur sebelum dan selepas"
description: "Penjimatan token terukur daripada memangkas system prompt, contoh few-shot, skema tool, format data, sejarah chat dan baris Arab, dikira dengan tokenizer sebenar."
url: https://broadrouter.com/ms/blog/reduce-prompt-tokens/
lang: ms
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/blog/reduce-prompt-tokens/) (dikemas kini 2026-11-16).

# Kurangkan token prompt: penjimatan terukur untuk system prompt, tools

Oleh pasukan BroadNet Inference · 7 minit bacaan · Diterbitkan 2026-11-15 · Dikemas kini 2026-11-16

Ukur dahulu: log prompt\_tokens setiap panggilan, cari bahagian terbesar, dan bandingkan sebelum dan selepas dengan tokenizer model. Merentas lima tokenizer, memangkas system prompt yang panjang berjela menjimatkan 68 hingga 71% dan CSV menggunakan 31 hingga 41% kurang token berbanding JSON yang dimampatkan. Pada tiga model, system prompt yang dipangkas dengan 3 tool ringkas dan bukannya 10 yang panjang mengurangkan permintaan penuh yang dirender sebanyak kira-kira 65 hingga 71%.

## Perkara utama

-   Kira dengan tokenizer sebenar, kemudian sahkan dengan usage.prompt\_tokens. Templat chat menambah tokennya sendiri, dan skema tool disiri semula olehnya.
-   Tools ialah kos tetap terbesar yang kami ukur: 10 skema tool yang panjang menambah 1,200 hingga 1,400 token pada setiap prompt yang dirender. Hantar hanya tools yang boleh digunakan oleh langkah itu.
-   Data berjadual: JSON berinden ke CSV menjimatkan 57 hingga 61%; JSON dimampatkan ke CSV masih menjimatkan 31 hingga 41%. Tokenizer Qwen dan Gemma memecahkan nombor kepada digit tunggal, jadi data yang banyak nombor lebih mahal pada kedua-duanya.
-   Menggantikan 16 giliran lama dengan ringkasan 3 baris mengurangkan prompt Qwen 2,700 token kepada 1,100. Ringkasan kehilangan butiran, jadi kekalkan beberapa giliran terakhir sebagaimana asal.
-   Teks Arab berbaris penuh mengambil 2.4 hingga 3.5 kali ganda token berbanding teks yang sama tanpa baris. Buang baris melainkan tugasan memerlukannya.

**Dalam halaman ini**

1.  Bagaimanakah kami mengukur?
2.  Pemangkasan manakah yang paling banyak menjimatkan token?
3.  Bagaimanakah rupa satu permintaan penuh?
4.  Bagaimanakah memangkas system prompt tanpa merosakkannya?
5.  Berapa banyak contoh few-shot yang anda perlukan?
6.  Patutkah anda menghantar tools, data dan sejarah secara berbeza?
7.  Di manakah peranan cache?
8.  Bagaimanakah mengukur prompt anda sendiri?
9.  Di manakah BroadNet Inference sesuai

Prompt yang lebih pendek berharga lebih murah, meninggalkan lebih banyak ruang [tetingkap konteks](https://broadrouter.com/ms/glossary/context-window/) untuk kerja, dan biasanya memulangkan token pertama lebih cepat. Tetapi “pendekkan prompt” ialah nasihat yang samar. Artikel ini mengukur pemangkasan biasa pada satu prompt bot sokongan yang realistik, dengan tokenizer sebenar empat model terbuka dan `o200k_base` OpenAI, supaya anda dapat melihat suntingan mana yang berbaloi dengan masa anda.

Jika anda menjalankan ejen pengekodan, [bajet token ejen](https://broadrouter.com/ms/blog/agent-token-budget/) merangkumi gelung itu. Artikel ini tentang prompt aplikasi: chatbot, pengelas dan kerja pengekstrakan.

## Bagaimanakah kami mengukur?

Semua kiraan di bawah ialah kiraan kami, dibuat pada 15 November 2026:

-   **Tokenizer.** Fail `tokenizer.json` rasmi untuk DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B dan Gemma 4 26B A4B Google, masing-masing pada revisi Hugging Face yang ditetapkan (lihat Sumber), dimuatkan dengan Hugging Face `tokenizers` 0.23.3. Ditambah `o200k_base` daripada `tiktoken` 0.14.0, untuk perbandingan dengan model GPT. Token khas tidak ditambah.
-   **Prompt yang dirender.** Untuk DeepSeek, GLM dan Qwen, kami juga merender permintaan penuh melalui `chat_template.jinja` yang diterbitkan setiap model (kotak pasir Jinja2), dengan system prompt, tools, sejarah dan soalan, dan mengira hasilnya. Itu hampir dengan apa yang ditokenkan oleh pelayan, tetapi penyedia boleh menggunakan templat yang berbeza, jadi anggap `usage.prompt_tokens` API sebagai kata putus.
-   **Teks.** Bot sokongan sintetik untuk syarikat telekom rekaan: system prompt 261 perkataan, 10 tool, 8 contoh few-shot, 40 baris pesanan, sejarah 20 giliran dan satu perenggan Arab 31 perkataan. Satu prompt ialah satu titik data. Penjimatan anda akan berbeza; kaedahnya boleh digunakan semula.

Gemma 4 VL 26B BroadNet berasaskan model Google, jadi kiraannya ialah anggaran. Yang lain menggunakan fail model itu sendiri.

## Pemangkasan manakah yang paling banyak menjimatkan token?

Teks mentah, sebelum → selepas, dengan bahagian yang dijimatkan:

| Perubahan | DeepSeek V4.1 Flash | GLM 5.3 | Qwen3.8 27B | Gemma 4 | GPT o200k |
| --- | --- | --- | --- | --- | --- |
| System prompt: 261 perkataan → 66 perkataan | 295 → 88 (70%) | 294 → 89 (70%) | 297 → 95 (68%) | 297 → 96 (68%) | 293 → 86 (71%) |
| Few-shot: 8 contoh → 3 | 157 → 69 (56%) | 157 → 69 (56%) | 156 → 71 (54%) | 156 → 71 (54%) | 152 → 69 (55%) |
| 40 baris: JSON berinden → JSON dimampatkan | 2,446 → 1,606 (34%) | 2,460 → 1,581 (36%) | 3,180 → 1,980 (38%) | 3,210 → 2,010 (37%) | 2,446 → 1,567 (36%) |
| 40 baris: JSON dimampatkan → CSV | 1,606 → 948 (41%) | 1,581 → 960 (39%) | 1,980 → 1,359 (31%) | 2,010 → 1,382 (31%) | 1,567 → 946 (40%) |
| 10 tool: penerangan panjang → ringkas | 1,224 → 806 (34%) | 1,214 → 797 (34%) | 1,225 → 806 (34%) | 1,252 → 827 (34%) | 1,202 → 796 (34%) |
| 10 tool panjang → 3 tool ringkas | 1,224 → 258 (79%) | 1,214 → 257 (79%) | 1,225 → 266 (78%) | 1,252 → 276 (78%) | 1,202 → 255 (79%) |
| Perenggan Arab: berbaris penuh → tanpa baris | 193 → 74 (62%) | 267 → 78 (71%) | 151 → 62 (59%) | 180 → 64 (64%) | 218 → 62 (72%) |

Peratusannya serupa merentas tokenizer untuk prosa Inggeris, jadi pemangkasan yang membantu pada satu model membantu pada yang lain juga. Dua baris melanggar corak itu. Data pesanan memerlukan 23 hingga 46% lebih banyak token pada Qwen dan Gemma berbanding DeepSeek dan GLM dalam setiap format, kerana tokenizer mereka memecahkan nombor kepada digit tunggal: `100200` ialah 6 token pada Qwen dan 2 pada DeepSeek. Dan baris Arab memberi kesan jauh lebih teruk pada sesetengah tokenizer berbanding yang lain.

## Bagaimanakah rupa satu permintaan penuh?

Teks mentah terlepas templat chat. Apabila dirender melalui templat setiap model sendiri, dengan soalan pelanggan yang sama, prompt penuh yang diukur:

| Permintaan | DeepSeek V4.1 Flash | GLM 5.3 | Qwen3.8 27B |
| --- | --- | --- | --- |
| A. System prompt panjang + 10 tool panjang | 1,677 | 1,535 | 1,797 |
| B. System prompt dipangkas + 10 tool ringkas | 1,052 | 913 | 1,176 |
| C. System prompt dipangkas + 3 tool ringkas | 574 | 443 | 636 |
| D. System prompt dipangkas, tanpa tools | 136 | 121 | 174 |
| C + 20 giliran terdahulu secara penuh | 2,374 | 2,243 | 2,693 |
| C + ringkasan 3 baris + 4 giliran terakhir | 979 | 849 | 1,103 |

Beralih dari A ke C memotong kira-kira 65 hingga 71% daripada setiap permintaan (64.6% pada Qwen, 71.1% pada GLM). Kebanyakannya datang daripada tools. Apabila dirender dengan system prompt yang panjang, 10 tool panjang menambah 1,334 token pada DeepSeek, 1,209 pada GLM dan 1,421 pada Qwen; 3 tool ringkas dalam C menambah 322 hingga 462 berbanding D. Skema [panggilan alat](https://broadrouter.com/ms/glossary/tool-calling/) dibawa pada setiap permintaan, sama ada model menggunakannya atau tidak.

Pada volum tinggi, ini bertambah. Pada [Qwen3.8 27B](https://broadrouter.com/ms/models/qwen3.8-27b/), A ke C menjimatkan 1,161 token setiap permintaan. Pada 100,000 permintaan sebulan, itu kira-kira 116 juta token input, atau 116 × $0.175 sebulan pada harga input standard.

## Bagaimanakah memangkas system prompt tanpa merosakkannya?

Prompt 261 perkataan dan prompt 66 perkataan kami membawa tujuh peraturan yang sama. Semua pemangkasan adalah daripada jenis yang sama:

1.  **Buang kesopanan terhadap model.** “It is very important that you always remain polite and courteous at all times” (Terjemahan: Adalah sangat penting anda sentiasa bersopan santun pada setiap masa) menjadi tiada: baris peranan sudah membayangkannya.
2.  **Satu peraturan setiap baris.** Titik peluru menggantikan ayat “Please make sure that you always…” (Terjemahan: Sila pastikan anda sentiasa…).
3.  **Gabungkan pendua.** Tiga ayat tentang bahasa menjadi “Reply in the customer’s language (Arabic or English), briefly.” (Terjemahan: Balas dalam bahasa pelanggan (Arab atau Inggeris), secara ringkas.)
4.  **Padam lalai yang diulang.** “Remember to always be helpful!” (Terjemahan: Ingat untuk sentiasa membantu!) tidak mengubah apa-apa.

Kemudian uji. Prompt yang lebih pendek yang kehilangan satu peraturan merugikan lebih daripada yang dijimatkannya. Jalankan kedua-dua versi pada 50 hingga 100 input sebenar yang sama dan bandingkan, seperti dalam [menilai LLM sebelum bertukar](https://broadrouter.com/ms/blog/evaluate-llm-before-switching/).

## Berapa banyak contoh few-shot yang anda perlukan?

Lebih sedikit daripada yang dibawa oleh kebanyakan prompt. Setiap contoh [few-shot](https://broadrouter.com/ms/glossary/few-shot-prompting/) dibayar pada setiap panggilan. Kekalkan contoh yang membetulkan kesilapan yang dibuat oleh model tanpanya, seperti contoh dialek untuk pengelas bahasa Arab, dan buang contoh yang sudah dijawab dengan betul oleh model. Pemangkasan 8 → 3 kami menjimatkan 54 hingga 56% daripada blok contoh. Sama ada 3 mencukupi untuk tugasan anda ialah soalan ketepatan, bukan soalan token, jadi semaknya pada set ujian anda.

## Patutkah anda menghantar tools, data dan sejarah secara berbeza?

**Tools.** Hantar hanya tools yang boleh digunakan oleh langkah semasa. Soalan pengebilan memerlukan `get_account`, `get_bill` dan `create_ticket`, bukan `order_esim`. Ringkaskan penerangan kepada apa yang model perlukan untuk memilih dan mengisi tool itu. Inden tidak penting di sini: templat yang kami render semuanya menyiri semula tatasusunan `tools` dengan `tojson`, jadi tatasusunan tools yang dicetak cantik berharga sama dengan yang dimampatkan.

**Data dalam mesej.** Data yang anda tampal ke dalam mesej dihantar sebagaimana ditulis. Sekurang-kurangnya mampatkan JSON. Untuk rekod rata, CSV atau TSV membuang kunci yang berulang: 31 hingga 41% kurang token berbanding JSON dimampatkan dalam ujian kami. Data bersarang kekal sebagai JSON. Pastikan model masih membaca lajur dengan betul.

**Sejarah.** Setiap giliran lalu dihantar semula. Menggantikan 16 giliran lama dengan ringkasan tiga baris, dan mengekalkan empat giliran terakhir sebagaimana asal, mengurangkan prompt Qwen daripada 2,693 kepada 1,103 token. Ringkasan membuang butiran yang mungkin dirujuk semula oleh pengguna, dan menulis semula ringkasan mengubah prefix, yang merosakkan cache. [Pengurusan konteks ejen yang berjalan lama](https://broadrouter.com/ms/blog/long-running-agent-context-management/) merangkumi bila untuk memadatkan.

**Baris Arab.** Kebanyakan teks Arab ditulis tanpa vokal pendek. Jika input anda berbaris penuh, daripada kamus, buku teks atau sumber agama, membuang tanda-tanda itu (U+064B hingga U+0652) mengurangkan perenggan kami sebanyak 59 hingga 72%. Kekalkannya apabila tugasan bergantung padanya, seperti pengajaran atau puisi. [Penormalan teks Arab](https://broadrouter.com/ms/blog/arabic-text-normalization-search/) merangkumi aksara lain yang berbaloi dinormalkan, dan [token setiap perkataan dalam bahasa Arab](https://broadrouter.com/ms/blog/tokens-per-word-arabic-english/) merangkumi jurang yang lebih luas dengan bahasa Inggeris.

## Di manakah peranan cache?

Cache tidak mengecilkan prompt. Ia menjadikan bahagian yang berulang lebih murah. Panduan cache OpenAI menyatakan “the entire rendered prefix” (Terjemahan: keseluruhan prefix yang dirender) mesti sepadan dan menasihatkan supaya arahan yang stabil diletakkan dahulu. [Halaman harga](https://inference.broadnet.ai/pricing?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-reduce-prompt-tokens&utm_content=body) BroadNet menerangkan input cache sebagai “usually the repeated start of recent requests, such as a long system prompt” (Terjemahan: biasanya permulaan berulang bagi permintaan terkini, seperti system prompt yang panjang), tanpa apa-apa untuk disediakan, dan dokumentasinya melaporkan hit dalam `usage.prompt_tokens_details.cached_tokens`.

Jadi urutannya ialah: pendekkan dahulu, kemudian jadikan prefix yang dipendekkan itu stabil. System prompt dan tools dahulu, sama byte demi byte pada setiap panggilan; sejarah seterusnya, tambah sahaja; mesej baharu terakhir. Pada Qwen3.8 27B, input cache berharga $0.0435 bagi setiap 1M berbanding $0.175. [Struktur prompt untuk cache](https://broadrouter.com/ms/blog/prompt-structure-for-caching/) mengandungi susun atur dan ujian yang membuktikan prefix digunakan semula. Token cache masih dikira dalam tetingkap konteks.

## Bagaimanakah mengukur prompt anda sendiri?

Mulakan dengan bil. Log `usage.prompt_tokens` bagi setiap tempat panggilan selama sehari dan cari yang terbesar. Kemudian bandingkan versi secara setempat dengan skrip ini, yang mencetak kiraan sebelum dan selepas untuk dua fail:

```python
# pip install tokenizers tiktoken huggingface_hub
import json, sys
import tiktoken
from huggingface_hub import hf_hub_download
from tokenizers import Tokenizer

def hf(repo, rev):
    return Tokenizer.from_file(hf_hub_download(repo, "tokenizer.json", revision=rev))

COUNTERS = {
    "Qwen3.8 27B": hf("Qwen/Qwen3.8-27B", "37561816e66b5b9153b1b64c10968c18c1e6f4a0").encode,
    "GPT o200k": tiktoken.get_encoding("o200k_base").encode,
}

def n(enc, text):
    out = enc(text)
    return len(out.ids if hasattr(out, "ids") else out)

def diff(before, after):
    for name, enc in COUNTERS.items():
        a, b = n(enc, before), n(enc, after)
        print(f"{name:12} {a:6} -> {b:6}  saved {a - b} ({100 * (a - b) / a:.0f}%)")

if __name__ == "__main__":
    diff(open(sys.argv[1], encoding="utf-8").read(), open(sys.argv[2], encoding="utf-8").read())
```

Menjalankannya pada dua system prompt kami mencetak:

```text
Qwen3.8 27B     297 ->     95  saved 202 (68%)
GPT o200k       293 ->     86  saved 207 (71%)
```

Tambah repo model lain daripada senarai Sumber untuk membandingkan keempat-empatnya. Untuk semakan pantas dalam pelayar, [perbezaan token prompt](https://broadrouter.com/tools/prompt-token-diff/) membandingkan dua versi sebelah-menyebelah, dan [pengira token](https://broadrouter.com/tools/token-counter/) mengira satu. Selepas anda menggunakannya, sahkan penjimatan dalam `usage.prompt_tokens`, yang merangkumi templat.

## Di manakah BroadNet Inference sesuai

BroadRouter ialah laman BroadNet. BroadNet Inference mengebil token prompt pada harga input setiap model dan membaca prefix berulang daripada cache pada harga cache di mana model mempunyainya, jadi prompt yang lebih pendek dan prefix yang stabil kedua-duanya menurunkan bil. [Gemma 4 VL 26B](https://broadrouter.com/ms/models/gemma-4-vl-26b/) mempunyai konteks 32,768 token, di mana pemangkasan penting untuk muat dan juga untuk kos. Pada pelan DeepSeek V4.1 Flash tiada meter token, tetapi konteks 1,048,576 token masih terpakai, dan prompt yang lebih pendek masih kembali lebih cepat. Prompt tidak disimpan selepas setiap permintaan.

Alat percuma untuk topik ini (Bahasa Inggeris)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Alatan percuma (Bahasa Inggeris)](https://broadrouter.com/tools/)

## Istilah dalam artikel ini

[Prompt sistem (system prompt)](https://broadrouter.com/ms/glossary/system-prompt/)

Prompt sistem ialah teks arahan yang dihantar oleh aplikasi kepada model bahasa sebelum perbualan, biasanya sebagai mesej dengan peranan system atau developer. Ia menetapkan peranan, peraturan, nada dan format output model, dan model sepatutnya mengutamakannya berbanding mesej pengguna yang bercanggah.

[Token](https://broadrouter.com/ms/glossary/token/)

Token ialah unit teks yang dibaca dan ditulis oleh model bahasa: satu perkataan, sebahagian perkataan, tanda baca atau jujukan bait yang dihasilkan oleh tokenizer model itu. API LLM mengira, mengehadkan dan biasanya mengebil penggunaan dalam token.

[Baris Arab (tashkeel, Arabic diacritics)](https://broadrouter.com/ms/glossary/arabic-diacritics/)

Baris Arab, atau tashkeel, ialah tanda kecil yang ditulis di atas atau di bawah huruf untuk menunjukkan vokal pendek, konsonan berganda dan ketiadaan vokal. Ia pilihan: kebanyakan teks Arab, termasuk berita, meninggalkannya, jadi pembaca dan perisian meneka vokal daripada konteks.

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Tetingkap konteks (context window)](https://broadrouter.com/ms/glossary/context-window/)

Tetingkap konteks ialah bilangan maksimum token yang boleh dikendalikan oleh model bahasa dalam satu permintaan. Ia meliputi prompt, sejarah perbualan, definisi alatan, imej dan output yang dijana, termasuk token penaakulan. Apa-apa yang tidak muat mesti dipotong, diringkaskan atau dipecahkan kepada beberapa permintaan.

[Tokenizer (pengtoken)](https://broadrouter.com/ms/glossary/tokenizer/)

Tokenizer ialah komponen yang menukar teks kepada jujukan ID token integer yang dibaca oleh model bahasa, dan menukar ID yang dijana kembali kepada teks. Setiap model mempunyai tokenizer sendiri, jadi teks yang sama boleh menghasilkan bilangan token yang berbeza pada model yang berbeza.

[Token input cache (cached input tokens)](https://broadrouter.com/ms/glossary/cached-input-tokens/)

Token input cache ialah token prompt yang baru sahaja diproses oleh penyedia LLM dan boleh diguna semula daripada cache tanpa dikira semula, biasanya awalan yang berulang seperti prompt sistem atau dokumen. Penyedia mengebilnya pada kadar lebih rendah daripada token input baharu.

[Token input dan output (input and output tokens)](https://broadrouter.com/ms/glossary/input-and-output-tokens/)

Token input ialah token yang dibaca oleh model bahasa dalam satu permintaan, termasuk prompt sistem, sejarah perbualan, definisi alatan dan imej. Token output ialah token yang dijananya sebagai balasan, termasuk sebarang penaakulan. API LLM biasanya meletakkan harga berasingan, dan output biasanya lebih mahal.

## Soalan lazim

### Bagaimanakah saya mengurangkan bilangan token dalam prompt saya?

Ukur dahulu: log usage.prompt\_tokens dan cari bahagian terbesar. Kemudian, mengikut urutan penjimatan terbesar yang kami ukur: hantar hanya tools yang diperlukan oleh langkah, ringkaskan kata-kata tool dan system prompt, hantar jadual sebagai CSV bukan JSON, kurangkan contoh few-shot kepada yang mengubah hasil, dan ringkaskan giliran chat lama.

### Adakah JSON yang dicetak cantik menggunakan lebih banyak token?

Ya. Dalam ujian kami, memampatkan 40 baris JSON berinden menjimatkan 34 hingga 38% token, bergantung pada tokenizer, dan menghantarnya sebagai CSV menjimatkan 57 hingga 61%. Dari sudut lain, JSON berinden mengambil 52 hingga 61% lebih banyak token berbanding JSON dimampatkan dan 132 hingga 159% lebih banyak berbanding CSV. Skema tool ialah pengecualian: templat chat menyirinya semula, jadi inden dalam tatasusunan tools anda tidak sampai kepada model.

### Berapa banyak token yang digunakan oleh definisi tool?

Bergantung pada kata-kata dan templat model. 10 tool kami dengan penerangan panjang menambah kira-kira 1,200 hingga 1,400 token pada prompt yang dirender pada DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B. Tiga tool dengan penerangan ringkas menambah kira-kira 320 hingga 460.

### Adakah baris Arab meningkatkan bilangan token?

Sangat banyak. Satu perenggan MSA 31 perkataan mengambil 62 hingga 78 token tanpa baris dan 151 hingga 267 token apabila berbaris penuh, merentas lima tokenizer. Kebanyakan teks Arab ditulis tanpa baris, jadi buang baris daripada input melainkan tugasan, seperti puisi atau pengajaran, memerlukannya.

### Adakah prompt caching lebih baik daripada memendekkan prompt?

Kedua-duanya saling melengkapi. Cache menjadikan prefix berulang lebih murah, tetapi ia masih dikira dalam tetingkap konteks dan masih ada harganya. Pendekkan dahulu, kemudian kekalkan prefix yang dipendekkan itu sama byte demi byte pada permulaan setiap permintaan supaya ia boleh dibaca daripada cache.

### Mengapakah kiraan token saya berbeza daripada prompt\_tokens API?

API mengira prompt yang dirender: mesej anda yang dibalut dalam templat chat, ditambah skema tool dalam format templat itu sendiri. Tokenizer yang dijalankan pada teks mentah anda terlepas perkara itu. Gunakan tokenizer untuk membandingkan versi, dan usage.prompt\_tokens untuk bil.

## Teruskan membaca

-   [Bajet token ejen: ke mana token gelung ejen pergi](https://broadrouter.com/ms/blog/agent-token-budget/)
-   [Cara mengira token sebelum menghantar permintaan LLM](https://broadrouter.com/ms/blog/count-tokens-before-sending/)
-   [Cara menyusun prompt supaya prefix di-cache](https://broadrouter.com/ms/blog/prompt-structure-for-caching/)
-   [Token input cache: cara mengurangkan bil API LLM](https://broadrouter.com/ms/blog/cached-input-tokens-explained/)
-   [Token setiap perkataan Arab vs Inggeris: mengapa Arab lebih mahal](https://broadrouter.com/ms/blog/tokens-per-word-arabic-english/)
-   [Pengurusan konteks untuk ejen berjalan lama dengan tetingkap 1M](https://broadrouter.com/ms/blog/long-running-agent-context-management/)
-   [10 cara mengurangkan kos LLM ejen pengekodan, dengan anggaran jimat](https://broadrouter.com/ms/blog/cut-coding-agent-llm-costs/)
-   [Cache respons API LLM untuk jimat kos: cache padanan tepat Python](https://broadrouter.com/ms/blog/cache-llm-responses-cut-cost/)
-   [Perkakasan GPU dan pendekatan penyajian BroadNet, menurut BroadNet](https://broadrouter.com/ms/blog/broadnet-gpu-fleet-and-serving/)
-   [Jadikan semakan manusia sebahagian aliran kerja AI dokumen anda](https://broadrouter.com/ms/blog/document-review-queues/)
-   [Panduan: Cara guna OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/ms/guides/openai-python-sdk/)

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-reduce-prompt-tokens&utm_content=page-cta) ·

**Sumber**

-   [Qwen/Qwen3.8-27B di Hugging Face: tokenizer.json dan chat\_template.jinja pada revisi 37561816 (dimuat turun 2026-11-15)](https://huggingface.co/Qwen/Qwen3.8-27B)
-   [zai-org/GLM-5.3 di Hugging Face: tokenizer.json dan chat\_template.jinja pada revisi ba32f8c1 (dimuat turun 2026-11-15)](https://huggingface.co/zai-org/GLM-5.3)
-   [deepseek-ai/DeepSeek-V4.1-Flash di Hugging Face: tokenizer.json dan chat\_template.jinja pada revisi 314113f8 (dimuat turun 2026-11-15)](https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash)
-   [google/gemma-4-26B-A4B-it di Hugging Face: tokenizer.json pada revisi 4d7ae498, asas BroadNet Gemma 4 VL 26B (disemak 2026-11-15)](https://huggingface.co/google/gemma-4-26B-A4B-it)
-   [OpenAI tiktoken di GitHub: pengekodan o200k\_base, versi 0.14.0 digunakan (disemak 2026-11-15)](https://github.com/openai/tiktoken)
-   [Panduan prompt caching OpenAI: kandungan stabil dahulu, keseluruhan prefix yang dirender mesti sepadan, tools ialah sebahagian daripada konteks yang di-cache (disemak 2026-11-15)](https://developers.openai.com/api/docs/guides/prompt-caching)
-   [Halaman harga BroadNet Inference: input cache ialah permulaan berulang bagi permintaan terkini, dibilkan lebih rendah, tiada apa-apa untuk disediakan (disemak 2026-11-15) (Bahasa Inggeris)](https://inference.broadnet.ai/pricing?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-reduce-prompt-tokens&utm_content=sources)
-   [Rujukan API BroadNet Inference: token cache dilaporkan dalam blok usage, keupayaan model (disemak 2026-11-15) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-reduce-prompt-tokens&utm_content=sources)
