---
title: "Apa itu context window di LLM? Penjelasan batasnya | BroadRouter"
description: "Context window adalah jumlah token maksimum yang ditangani LLM dalam satu permintaan, prompt plus output. Apa yang dihitung, apa yang terjadi jika penuh, ukurannya."
url: https://broadrouter.com/id/glossary/context-window/
lang: id
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/glossary/context-window/) (diperbarui 2026-11-14).

# Context window (jendela konteks)

Diperbarui 2026-11-14

Context window adalah jumlah token maksimum yang bisa diolah model bahasa dalam satu permintaan. Cakupannya meliputi prompt, riwayat percakapan, definisi tool, gambar, dan output yang dihasilkan, termasuk token penalaran. Apa pun yang tidak muat harus dipotong, diringkas, atau dibagi ke beberapa permintaan.

Disebut juga: context window, jendela konteks, panjang konteks, batas konteks, batas token, context length, context size, token limit, context limit

Context window adalah memori kerja model untuk satu permintaan. Semua yang perlu dilihat model, dan semua yang ditulisnya kembali, harus muat di dalamnya.

## Cara kerjanya

Window diukur dalam [token](https://broadrouter.com/id/glossary/token/). Dokumentasi Anthropic menggambarkannya sebagai “all the text a language model can reference when generating a response, including the response itself” (terjemahan: semua teks yang dapat dirujuk model bahasa saat menghasilkan respons, termasuk respons itu sendiri). Itu mencakup:

-   system prompt dan setiap pesan, termasuk giliran sebelumnya;
-   definisi tool dan hasil tool;
-   dokumen dan gambar;
-   output, termasuk [token penalaran](https://broadrouter.com/id/glossary/reasoning-tokens/) yang tersembunyi.

Jadi anggarannya dipakai bersama. Dengan window 1.048.576 token, prompt 1.040.000 token menyisakan sekitar 8.000 token untuk penalaran dan jawaban. Atur [`max_tokens`](https://broadrouter.com/id/glossary/max-tokens/) dengan mempertimbangkan hal itu.

Model tidak mengingat permintaan sebelumnya. Chat terasa berkesinambungan hanya karena client mengirim ulang riwayat di setiap giliran, sehingga percakapan panjang mengisi window sedikit demi sedikit.

## Kenapa ini penting

-   **Kemampuan.** Window yang besar memungkinkan satu permintaan memuat seluruh codebase, satu set kontrak, atau transkrip berjam-jam, sehingga model bisa menghubungkan fakta di antaranya.
-   **Biaya.** Setiap token di window ditagih sebagai input pada kunci per token. [Caching](https://broadrouter.com/id/glossary/cached-input-tokens/) menurunkan harga prefiks yang berulang, tetapi token cache tetap memakai ruang di window.
-   **Kualitas.** Lebih banyak tidak selalu lebih baik. Anthropic menyebut turunnya akurasi pada prompt yang sangat panjang sebagai “context rot” (terjemahan: pembusukan konteks). Kurasi apa yang Anda kirim.
-   **Latensi.** Prompt panjang membutuhkan waktu lebih lama sebelum token pertama muncul.

## Di BroadNet Inference

| Model | Context window |
| --- | --- |
| [DeepSeek V4.1 Flash](https://broadrouter.com/id/models/deepseek-v4.1-flash/) | 1.048.576 token |
| [GLM 5.3](https://broadrouter.com/id/models/glm-5.3/) | 1.048.576 token |
| [Qwen3.8 27B](https://broadrouter.com/id/models/qwen3.8-27b/) | 262.144 token |
| [BroadNet Gemma 4 VL 26B](https://broadrouter.com/id/models/gemma-4-vl-26b/) | 32.768 token |

Window mencakup prompt dan jawaban sekaligus, dan BroadNet tidak memangkas konteks Anda. DeepSeek V4.1 Flash, GLM 5.3, dan Qwen3.8 27B bernalar sebelum menjawab, jadi sisakan ruang: window yang penuh dengan anggaran output kecil akan mengembalikan balasan kosong. Lihat [kenapa model penalaran mengembalikan jawaban kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/).

Paket unlimited mencakup window 1 juta token penuh di DeepSeek V4.1 Flash. Untuk mengetahui kapan konteks sebesar itu lebih unggul daripada retrieval, baca [panduan context window 1 juta token](https://broadrouter.com/id/blog/million-token-context-window-guide/).

## Kesalahan umum

-   Menganggap window sebagai panjang output. Batas output diatur terpisah dengan `max_tokens`.
-   Terus mengirim ulang seluruh riwayat. Ringkas atau buang giliran lama sebelum window penuh.

## Pertanyaan umum

### Apa yang terjadi jika prompt saya lebih panjang dari context window?

API menolak permintaan, biasanya dengan error 400. Anthropic, misalnya, mengembalikan "prompt is too long" (terjemahan: prompt terlalu panjang). Beberapa aplikasi chat memangkas pesan lama untuk Anda; sebagian besar API tidak.

### Apakah context window yang lebih besar selalu lebih baik?

Tidak. Prompt panjang lebih mahal dan lebih lama diproses, dan Anthropic mencatat bahwa akurasi dan kemampuan mengingat bisa menurun seiring bertambahnya jumlah token. Kirim sesuai kebutuhan tugas.

### Apakah BroadNet memangkas konteks saya?

Tidak. BroadNet Inference tidak memangkas konteks Anda. Jika permintaan tidak muat, persingkat sendiri.

## Lihat juga

-   [Token](https://broadrouter.com/id/glossary/token/) (istilah)
-   [max\_tokens](https://broadrouter.com/id/glossary/max-tokens/) (istilah)
-   [Token penalaran (reasoning tokens)](https://broadrouter.com/id/glossary/reasoning-tokens/) (istilah)
-   [Token input cache (cached input tokens)](https://broadrouter.com/id/glossary/cached-input-tokens/) (istilah)
-   [KV cache](https://broadrouter.com/id/glossary/kv-cache/) (istilah)
-   [Context rot (degradasi konteks)](https://broadrouter.com/id/glossary/context-rot/) (istilah)
-   [Lost in the middle](https://broadrouter.com/id/glossary/lost-in-the-middle/) (istilah)
-   [RAG (retrieval-augmented generation)](https://broadrouter.com/id/glossary/rag/) (istilah)
-   [Context compaction (pemadatan konteks)](https://broadrouter.com/id/glossary/context-compaction/) (istilah)
-   [Kenapa model reasoning mengembalikan jawaban kosong](https://broadrouter.com/id/guides/reasoning-tokens-empty-response/) (panduan)
-   [Kapan context window 1M token sepadan (dan kapan tidak)](https://broadrouter.com/id/blog/million-token-context-window-guide/) (artikel)
-   [Token input cache: cara memangkas tagihan API LLM](https://broadrouter.com/id/blog/cached-input-tokens-explained/) (artikel)

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-glossary-context-window&utm_content=page-cta) ·

**Sumber**

-   [Anthropic, context window](https://platform.claude.com/docs/en/build-with-claude/context-windows)
-   [OpenAI, model penalaran (token penalaran memakai ruang context window)](https://developers.openai.com/api/docs/guides/reasoning)
-   [Harga dan panjang konteks BroadNet Inference yang dapat dibaca mesin (pricing.json) (bahasa Inggris)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-glossary-context-window&utm_content=sources)
