---
title: "Ke mana token ejen AI pergi, dan cara mengurangkannya"
description: "Prompt sistem, skema alat, bacaan fail, sejarah dan penaakulan: cara gelung ejen membelanjakan token, cara mengukur setiap bahagian dan apa yang dipangkas dahulu."
url: https://broadrouter.com/ms/blog/agent-token-budget/
lang: ms
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/blog/agent-token-budget/) (dikemas kini 2026-11-14).

# Bajet token ejen: ke mana token gelung ejen pergi

Oleh pasukan BroadNet Inference · 5 minit bacaan · Diterbitkan 2026-11-14

Gelung ejen menghantar semula seluruh konteksnya pada setiap panggilan: prompt sistem, definisi alat, sejarah perbualan, kandungan fail dan output alat, serta langkah baharu. Input biasanya berlipat kali ganda lebih besar daripada output. Log prompt\_tokens, cached\_tokens dan completion\_tokens setiap panggilan, cari blok berulang yang terbesar, kemudian kurangkan alat, hadkan output alat dan mulakan semula sesi yang panjang.

## Perkara utama

-   Setiap panggilan model menghantar semula konteks penuh. Tugas 40 langkah dengan 30,000 token setiap panggilan membaca 1.2 juta token input.
-   Lima bahagian: prompt sistem, skema alat, sejarah, bacaan fail dan output alat, serta output termasuk penaakulan.
-   Ukur setiap panggilan daripada blok penggunaan: prompt\_tokens, prompt\_tokens\_details.cached\_tokens dan completion\_tokens.
-   Cursor melaporkan bahawa prompt sistem dan definisi alatnya telah menjadi antara sumber perbelanjaan terbesar yang dikawalnya sepenuhnya.
-   Pangkas mengikut susunan ini: alat yang tidak digunakan, output alat yang terlalu besar, sejarah lapuk, kemudian prompt sistem. Kekalkan awalan stabil yang sama supaya ia terus di-cache.

**Dalam halaman ini**

1.  Mengapakah ejen menghantar semula semuanya?
2.  Ke manakah token pergi?
3.  Bagaimanakah anda mengukurnya?
4.  Apakah yang patut dipangkas dahulu?
5.  Mengapakah awalan perlu dikekalkan stabil?
6.  Bagaimanakah rupa contoh bajet ejen?
7.  Di manakah tempat BroadNet Inference

Chat berkos apa yang anda taip serta apa yang ditulis oleh model. Ejen berkos jauh lebih tinggi, kerana ia memanggil model berpuluh-puluh kali dan menghantar semula hampir semuanya setiap kali. Jika anda mahu mengurangkan kos itu, atau sekadar berhenti mencecah [tetingkap konteks](https://broadrouter.com/ms/glossary/context-window/), anda perlu tahu bahagian mana dalam setiap permintaan yang besar. Catatan ini memecahkan gelung ejen kepada lima bahagian, menunjukkan cara mengukur setiap satu daripada data penggunaan API sendiri, dan menyenaraikan apa yang perlu dipangkas dahulu.

## Mengapakah ejen menghantar semula semuanya?

API chat-completions tidak menyimpan keadaan. Model tidak mengingati apa-apa antara panggilan, jadi ejen menghantar konteks penuh pada setiap langkah. Tugas 40 langkah di mana setiap panggilan membawa 30,000 token membaca **1.2 juta token input** untuk menghasilkan mungkin 40,000 token output. Nisbah 30 berbanding 1 itulah sebabnya [token input](https://broadrouter.com/ms/glossary/input-and-output-tokens/) dan harga cache-nya mendominasi bil ejen.

## Ke manakah token pergi?

| Bahagian | Apa itu | Berulang setiap panggilan? | Pemacu biasa |
| --- | --- | --- | --- |
| Prompt sistem | Arahan ejen, fail peraturan, nota projek | Ya | Fail peraturan yang panjang |
| Skema alat | Nama, penerangan dan JSON Schema setiap alat | Ya | Alat terbina dalam serta setiap pelayan MCP |
| Sejarah | Mesej, panggilan alat dan hasil terdahulu | Ya, dan bertambah | Sesi yang panjang |
| Bacaan fail dan output alat | Kandungan fail, log ujian, hasil carian | Ya, sehingga dibuang | Membaca fail penuh, arahan yang verbose |
| Output | Jawapan yang kelihatan, panggilan alat dan penaakulan | Tidak | Usaha penaakulan, menulis semula fail penuh |

Dua yang pertama ialah overhed tetap. Cursor menulis pada September 2026 bahawa prompt sistem dan definisi alat “had become one of the largest sources of spend that we fully control” (Terjemahan: telah menjadi antara sumber perbelanjaan terbesar yang kami kawal sepenuhnya), dan menggelar bacaan fail “another large source of token spend” (Terjemahan: satu lagi sumber besar perbelanjaan token). Perubahannya, termasuk memotong kira-kira dua pertiga prompt sistem dan memuatkan alat yang digunakan dalam kurang daripada 20% perbualan hanya apabila perlu, mengurangkan kos token pengguna sebanyak 7%. Pasukan VS Code GitHub menamakan dua kos yang sama untuk Copilot: awalan prompt yang berulang dan overhed definisi alat.

## Bagaimanakah anda mengukurnya?

Anda tidak memerlukan produk pengesanan. Blok penggunaan pada setiap respons sudah memadai.

1.  **Hidupkan penggunaan.** Untuk streaming, tambah `stream_options: {"include_usage": true}`; penggunaan tiba dalam cebisan terakhir. Lihat [streaming](https://broadrouter.com/ms/guides/streaming-chat-completions/).
2.  **Log setiap panggilan:** nombor langkah, `prompt_tokens`, `prompt_tokens_details.cached_tokens`, `completion_tokens` dan, apabila dilaporkan, `completion_tokens_details.reasoning_tokens`.
3.  **Ukur overhed tetap sekali.** Hantar satu permintaan dengan hanya prompt sistem dan alat, serta perkataan “hi”. `prompt_tokens`\-nya ialah lantai anda.
4.  **Ukur output sesuatu alat.** Kira aksara setiap hasil alat sebelum anda menambahkannya. Membahagikan dengan empat memberikan anggaran kasar bilangan token bahasa Inggeris; tampal sampel ke dalam [pengira token](https://broadrouter.com/tools/token-counter/) percuma untuk angka tepat pada tokenizer model anda.

```python
r = client.chat.completions.create(model=MODEL, messages=msgs, tools=tools)
u = r.usage
cached = getattr(u.prompt_tokens_details, "cached_tokens", 0) or 0
log.info("step=%d prompt=%d cached=%d out=%d", step, u.prompt_tokens, cached, u.completion_tokens)
```

Plot `prompt_tokens` mengikut langkah. Cerun yang tetap bermakna sejarah sedang bertambah. Lonjakan mendadak bermakna fail atau log besar telah masuk ke konteks. Lantai yang tinggi bermakna terlalu banyak alat.

Dalam Aider, `/tokens` melaporkan apa yang ada dalam konteks semasa, dan `/drop` membuang fail daripadanya.

## Apakah yang patut dipangkas dahulu?

Susun mengikut saiz didarab ulangan, bukan mengikut apa yang paling mudah:

1.  **Alat yang tidak digunakan.** Setiap skema alat ikut serta dalam setiap panggilan. Panduan OpenAI menyatakan definisi fungsi “are billed as input tokens” (Terjemahan: dibilkan sebagai token input) dan mencadangkan kurang daripada 20 fungsi pada permulaan giliran, sebagai peraturan longgar. Lumpuhkan pelayan MCP yang tidak anda gunakan dalam tugas ini; dokumentasi opencode menyatakan dengan jelas bahawa alat MCP menggunakan konteks model.
2.  **Output alat.** Hadkan output arahan (200 baris terakhir log ujian, bukan 20,000). Pulangkan hasil carian sebagai laluan dan nombor baris, kemudian baca hanya apa yang diperlukan.
3.  **Bacaan fail.** Baca fungsi, bukan fail. Peta repo Aider menggunakan bajet lalai 1k token (`--map-tokens`) dan bukan fail penuh.
4.  **Sejarah.** Mulakan tugas baharu bagi setiap perubahan. Apabila sesi mesti diteruskan, gantikan giliran lama dengan ringkasan pendek.
5.  **Prompt sistem.** Buang peraturan yang sudah dipatuhi model. Kekalkan yang selebihnya stabil.
6.  **Output.** Minta diff, bukan fail penuh. Tetapkan `reasoning_effort` kepada `low` untuk langkah rutin. [Token penaakulan](https://broadrouter.com/ms/glossary/reasoning-tokens/) dibilkan sebagai output.

## Mengapakah awalan perlu dikekalkan stabil?

Penyedia membuat cache bagi awalan yang berulang dan membilkannya pada kadar lebih rendah. Di BroadNet Inference, [DeepSeek V4.1 Flash](https://broadrouter.com/ms/models/deepseek-v4.1-flash/) membilkan [input cache](https://broadrouter.com/ms/glossary/cached-input-tokens/) pada $0.0055 setiap 1M token dan input baharu pada $0.175. [GLM 5.3](https://broadrouter.com/ms/models/glm-5.3/) membilkan $0.173 berbanding $0.78. Cap masa dalam prompt sistem, atau alat yang disenaraikan dalam susunan berbeza setiap panggilan, memecahkan cache dari titik itu. Letakkan bahagian stabil dahulu, dalam susunan tetap, dan bahagian yang berubah di hujung. Lebih lanjut dalam [penjelasan token input cache](https://broadrouter.com/ms/blog/cached-input-tokens-explained/); [kalkulator prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/) menunjukkan penjimatan bagi sesuatu kadar hit.

Cache merendahkan harga awalan, tetapi bukan saiznya. Token cache masih memenuhi tetingkap konteks dan masih mengambil masa untuk diproses.

## Bagaimanakah rupa contoh bajet ejen?

Ambil tugas 40 langkah di atas, dengan 80% input di-cache:

| Bahagian | Token | Dibilkan pada |
| --- | --- | --- |
| Input baharu | 240,000 | Harga input |
| Input cache | 960,000 | Harga input cache |
| Output termasuk penaakulan | 40,000 | Harga output |

Memotong 5,000 token skema alat yang tidak digunakan daripada setiap panggilan membuang 200,000 token input daripada tugas ini, kira-kira satu perenam daripada jumlah, tanpa mengubah tingkah laku ejen. Untuk tuil kos selain memangkas, seperti pilihan model, cache dan pelan kadar tetap, lihat [10 cara mengurangkan kos LLM ejen pengekodan](https://broadrouter.com/ms/blog/cut-coding-agent-llm-costs/). Untuk persediaan berbilang ejen, darabkan dengan bilangan ejen; lihat [kos sebenar persediaan berbilang ejen](https://broadrouter.com/ms/blog/multi-agent-cost/). Untuk memodelkan gelung anda sendiri langkah demi langkah, gunakan [penganggar kos larian ejen](https://broadrouter.com/tools/agent-run-cost-estimator/).

## Di manakah tempat BroadNet Inference

BroadNet Inference memulangkan token prompt dan completion dalam blok penggunaan, serta token cache dan penaakulan apabila model melaporkannya, jadi pengukuran di atas berfungsi seperti yang ditulis. Harga input cache yang rendah pada DeepSeek V4.1 Flash menguntungkan awalan yang stabil. Jika memangkas tidak berbaloi dengan masa anda, pelan tanpa had membuang meter token untuk DeepSeek V4.1 Flash pada $60 sebulan setiap sesi; tetingkap konteks masih terpakai, dan konteks yang ramping masih berjalan lebih pantas. Pelan ada di [inference.broadnet.ai/plans](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-agent-token-budget&utm_content=body).

Alat percuma untuk topik ini (Bahasa Inggeris)

-   [Agent run cost estimator](https://broadrouter.com/tools/agent-run-cost-estimator/) Context growth per step, total tokens and cost of one agent run, with a DeepSeek session comparison.
-   [LLM batch job planner](https://broadrouter.com/tools/llm-batch-job-planner/) Run time, binding limit, cost per model and the flat sessions needed to finish a big job by a deadline.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [LLM rate limit and concurrency calculator](https://broadrouter.com/tools/llm-rate-limit-calculator/) Which limit binds first: RPM, TPM or concurrency, with Little's law.

[Alatan percuma (Bahasa Inggeris)](https://broadrouter.com/tools/)

## Istilah dalam artikel ini

[Token](https://broadrouter.com/ms/glossary/token/)

Token ialah unit teks yang dibaca dan ditulis oleh model bahasa: satu perkataan, sebahagian perkataan, tanda baca atau jujukan bait yang dihasilkan oleh tokenizer model itu. API LLM mengira, mengehadkan dan biasanya mengebil penggunaan dalam token.

[Tetingkap konteks (context window)](https://broadrouter.com/ms/glossary/context-window/)

Tetingkap konteks ialah bilangan maksimum token yang boleh dikendalikan oleh model bahasa dalam satu permintaan. Ia meliputi prompt, sejarah perbualan, definisi alatan, imej dan output yang dijana, termasuk token penaakulan. Apa-apa yang tidak muat mesti dipotong, diringkaskan atau dipecahkan kepada beberapa permintaan.

[Token input cache (cached input tokens)](https://broadrouter.com/ms/glossary/cached-input-tokens/)

Token input cache ialah token prompt yang baru sahaja diproses oleh penyedia LLM dan boleh diguna semula daripada cache tanpa dikira semula, biasanya awalan yang berulang seperti prompt sistem atau dokumen. Penyedia mengebilnya pada kadar lebih rendah daripada token input baharu.

[Token input dan output (input and output tokens)](https://broadrouter.com/ms/glossary/input-and-output-tokens/)

Token input ialah token yang dibaca oleh model bahasa dalam satu permintaan, termasuk prompt sistem, sejarah perbualan, definisi alatan dan imej. Token output ialah token yang dijananya sebagai balasan, termasuk sebarang penaakulan. API LLM biasanya meletakkan harga berasingan, dan output biasanya lebih mahal.

[Penstriman (streaming)](https://broadrouter.com/ms/glossary/streaming/)

Penstriman ialah cara memulangkan respons model bahasa dalam cebisan kecil semasa ia masih dijana, dan bukan sebagai satu jawapan di penghujung. API serasi OpenAI menstrim melalui server-sent events apabila permintaan menetapkan stream kepada true.

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Baris Arab (tashkeel, Arabic diacritics)](https://broadrouter.com/ms/glossary/arabic-diacritics/)

Baris Arab, atau tashkeel, ialah tanda kecil yang ditulis di atas atau di bawah huruf untuk menunjukkan vokal pendek, konsonan berganda dan ketiadaan vokal. Ia pilihan: kebanyakan teks Arab, termasuk berita, meninggalkannya, jadi pembaca dan perisian meneka vokal daripada konteks.

[MCP (Model Context Protocol)](https://broadrouter.com/ms/glossary/mcp/)

MCP (Model Context Protocol) ialah protokol terbuka berasaskan JSON-RPC 2.0 yang menyeragamkan cara aplikasi LLM bersambung kepada alatan dan data luaran. Pelayan MCP mendedahkan tools, resources dan prompts; klien MCP di dalam aplikasi hos menemuinya dan menghantar panggilan alatan daripada model kepada pelayan.

## Soalan lazim

### Mengapakah ejen pengekodan saya menggunakan begitu banyak token input?

Kerana API tidak menyimpan keadaan. Setiap panggilan menghantar semula prompt sistem, setiap definisi alat, perbualan setakat ini dan semua kandungan fail yang masih dalam konteks. Sesi yang panjang mendarabkannya dengan bilangan langkah.

### Bagaimanakah saya melihat berapa banyak token yang digunakan setiap langkah ejen?

Baca blok penggunaan setiap respons. Dengan streaming, tetapkan include\_usage dalam stream\_options kepada true dan baca cebisan terakhir. Log prompt\_tokens, prompt\_tokens\_details.cached\_tokens dan completion\_tokens bersama nombor langkah.

### Adakah definisi alat dikira sebagai token input?

Ya. Senarai alat ialah sebahagian daripada prompt dan dihantar pada setiap panggilan. Pelayan MCP menambah alat mereka ke senarai itu, sebab itulah dokumentasi opencode meminta anda menambah hanya pelayan yang diperlukan.

### Adakah prompt caching menyelesaikan masalah ini?

Ia mengurangkan harga awalan berulang, bukan saiznya. Input cache masih memenuhi tetingkap konteks. Di BroadNet, DeepSeek V4.1 Flash membilkan input cache pada $0.0055 setiap 1M token berbanding $0.175 untuk input baharu.

### Adakah token penaakulan sebahagian daripada bajet?

Ya, di sisi output. Model penaakulan mengira pemikiran dalam max\_tokens dan membilkannya sebagai output secara bayar ikut guna. Tetapkan reasoning\_effort kepada low untuk langkah rutin.

## Teruskan membaca

-   [OpenClaw dan Hermes Agent pada model murah: persediaan dan kos token](https://broadrouter.com/ms/blog/openclaw-hermes-agent-cheap-model/)
-   [Token input cache: cara mengurangkan bil API LLM](https://broadrouter.com/ms/blog/cached-input-tokens-explained/)
-   [Kos sebenar persediaan berbilang ejen: setiap token vs sesi tetap](https://broadrouter.com/ms/blog/multi-agent-cost/)
-   [Model terbuka terbaik untuk ejen pengekodan: alat, konteks dan kos](https://broadrouter.com/ms/blog/best-open-model-for-coding-agents/)
-   [API LLM kadar tetap vs bayar setiap token: kiraan pulang modal](https://broadrouter.com/ms/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [Kurangkan token prompt: penjimatan terukur untuk system prompt, tools](https://broadrouter.com/ms/blog/reduce-prompt-tokens/)
-   [Berapakah kos satu larian ejen pengekodan AI: langkah, konteks, cache](https://broadrouter.com/ms/blog/ai-coding-agent-run-cost/)
-   [Claude Code dengan model terbuka: proksi, endpoint asli dan had](https://broadrouter.com/ms/blog/claude-code-with-openai-compatible-models/)
-   [Panduan: Strim chat completions dan kendalikan sambungan yang terputus](https://broadrouter.com/ms/guides/streaming-chat-completions/)
-   [Panduan: Mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/)
-   [Panduan: Jalankan Aider dengan DeepSeek V4.1 Flash tanpa had](https://broadrouter.com/ms/guides/aider-unlimited-deepseek/)

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-agent-token-budget&utm_content=page-cta) ·

**Sumber**

-   [Cursor, kecekapan token yang dipertingkat (23 September 2026; disemak 2026-11-14)](https://cursor.com/blog/improved-token-efficiency)
-   [Blog VS Code, meningkatkan kecekapan token dalam GitHub Copilot (disemak 2026-11-14)](https://code.visualstudio.com/blogs/2026/06/17/improving-token-efficiency-in-github-copilot)
-   [OpenAI, panduan function calling, kurang daripada 20 fungsi (disemak 2026-11-14)](https://developers.openai.com/api/docs/guides/function-calling)
-   [Dokumentasi opencode, pelayan MCP dan penggunaan konteks (disemak 2026-11-14)](https://opencode.ai/docs/mcp-servers/)
-   [Dokumentasi Aider, peta repositori dan arahan dalam chat (disemak 2026-11-14)](https://aider.chat/docs/repomap.html)
-   [Rujukan API BroadNet Inference, penggunaan dan token cache (disemak 2026-11-14) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-blog-agent-token-budget&utm_content=sources)
