---
title: "100 万トークンのコンテキスト：使いどころとコスト | BroadRouter"
description: "1,048,576 トークンに何が入るか、DeepSeek V4.1 Flash でいくらかかるか、推論とキャッシュで計算がどう変わるか、そして RAG のほうがまだ良いのはどんなときかを解説します。"
url: https://broadrouter.com/ja/blog/million-token-context-window-guide/
lang: ja
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

このページは英語の原文を AI の支援を受けて翻訳したものです。[英語の原文を読む](https://broadrouter.com/blog/million-token-context-window-guide/)（2026-11-14 更新）。

# 100 万トークンのコンテキストウィンドウが役立つとき（役立たないとき）

BroadNet Inference チーム · 約 4 分で読めます · 公開日 2026-11-14

100 万トークンのウィンドウなら、1 回のリクエストにコードベース全体や契約書一式、何時間分もの文字起こしが入り、モデルは検索した断片でなく全体を一度に見られます。ファイル横断の推論や一度きりの分析に向き、大きく変化するコーパスの繰り返し検索なら検索のほうが安価です。DeepSeek V4.1 Flash と GLM 5.3 は 1,048,576 トークンに対応します。

## 要点

-   DeepSeek V4.1 Flash と GLM 5.3 は、1 リクエストあたりプロンプトと回答を合わせて 1,048,576 トークンを受け付けます。
-   答えが多くのファイルや文書のつながりに依存する場合、ロングコンテキストは検索に勝ります。
-   大きく変化するコーパスで小さな検索を何度も行うなら、検索（RAG）がまだ勝ちます。
-   モデルは長い入力を均等には使いません。研究では、中ほどに埋もれた事実や、入力が長くなるにつれて精度が落ちることが示されています。
-   キャッシュで同じ長いプロンプトを再送するコストを下げられます。無制限プランなら、長いプロンプトでも追加費用はかかりません。
-   ウィンドウ内に推論トークンの余地を残してください。

**このページの内容**

1.  100 万トークンには何が入りますか？
2.  BroadNet で 100 万トークンのコンテキストウィンドウを持つモデルは？
3.  100 万トークンのウィンドウが役立つのはどんなときですか？
4.  検索のほうがまだ良いのはどんなときですか？
5.  モデルは本当にウィンドウ全体を使っていますか？
6.  100 万トークンのプロンプトにはいくらかかりますか？
7.  回答にはどれくらい余地を残すべきですか？
8.  100 万トークンのプロンプトに向けてコードベースを準備する方法
9.  BroadNet Inference が向いている場面

_[image: Light shining through towering cliffs made of stacked paper pages.]_

[コンテキストウィンドウ](https://broadrouter.com/ja/glossary/context-window/)は、数千トークンから 100 万トークン超にまで広がりました。BroadNet Inference の [DeepSeek V4.1 Flash](https://broadrouter.com/ja/models/deepseek-v4.1-flash/) と [GLM 5.3](https://broadrouter.com/ja/models/glm-5.3/) は、**1 リクエストあたり 1,048,576 トークン**（プロンプトと回答の合計）を受け付けます。これで作り方は変わりますが、どんなプロンプトでも良くなるわけではありません。

## 100 万トークンには何が入りますか？

大まかな目安として、[トークナイザー効率データセット](https://broadrouter.com/data/tokenizer-efficiency/)では、英語の文章 1,000 単語が 5 つのトークナイザーの平均で約 1,290 [トークン](https://broadrouter.com/ja/glossary/token/)でした。つまり 100 万トークンは、平易な文章でおよそ 810,000 単語です。

| 内容 | 目安 |
| --- | --- |
| 中規模のコードベース（数万行） | 余裕をもって入る |
| 付属書類付きの長い契約書数件 | 入る |
| 1 日分の会議の文字起こし | 入る |
| 依存関係を含む大きなモノレポ | 入らないことが多い。ディレクトリを選ぶ |

トークン数は言語と内容によって変わります。コードやアラビア語のテキストは、英語の文章より 1 文字あたりのトークンが多くなりがちです。見積もるより、実際のリクエストの `usage` ブロックで測るか、[コンテキストウィンドウ計算ツール](https://broadrouter.com/tools/context-window-calculator/)でサンプルを確認してください。

## BroadNet で 100 万トークンのコンテキストウィンドウを持つモデルは？

| モデル | コンテキストウィンドウ | 入力 | 出力 | 画像 |
| --- | --- | --- | --- | --- |
| [DeepSeek V4.1 Flash](https://broadrouter.com/ja/models/deepseek-v4.1-flash/) | 1,048,576 | $0.175 | $0.52 | 可 |
| [GLM 5.3](https://broadrouter.com/ja/models/glm-5.3/) | 1,048,576 | $0.78 | $3.46 | 不可 |
| [Qwen3.8 27B](https://broadrouter.com/ja/models/qwen3.8-27b/) | 262,144 | $0.175 | $2.17 | 可 |
| [BroadNet Gemma 4 VL 26B](https://broadrouter.com/ja/models/gemma-4-vl-26b/) | 32,768 | $0.10 | $0.22 | 可 |

料金は 100 万トークンあたりです。GLM 5.3 は、同じ 100 万トークンのウィンドウでツール呼び出しと構造化出力にも対応しています。

## 100 万トークンのウィンドウが役立つのはどんなときですか？

-   **ファイルをまたぐ推論。**「このテストはなぜ失敗するのか？」の答えは、誰も一緒に検索しようとは思わない 5 つのファイルにかかっていることがよくあります。
-   \*\*文書全体のレビュー。\*\*第 4 条と付属書 B の矛盾を見つけるには、両方が見えている必要があります。
-   \*\*一度きりの分析。\*\*一度しか聞かない質問なら、検索インデックスを作る手間のほうが、節約できる手間より大きくなります。
-   \*\*エージェント。\*\*モジュール全体を読めるサブエージェントは、当て推量で間違えることが減ります。[エージェントを並列で動かす](https://broadrouter.com/ja/blog/run-parallel-coding-agents-flat-rate/)を参照してください。

## 検索のほうがまだ良いのはどんなときですか？

どんなウィンドウよりはるかに大きなライブラリでの小さな検索を何度も行う場合、毎分変わるコンテンツ、そして巨大なプロンプトを先に読むと遅延が増える、素早い対話型の回答では、検索が勝ちます。多くの本番システムは両方を使います。最も関連性の高い 20 万トークンを検索し、そのすべてを踏まえてロングコンテキストモデルに推論させるのです。クエリあたりのコスト、レイテンシ、再現率を並べた判断の全体像は、[ロングコンテキストか RAG か](https://broadrouter.com/ja/blog/long-context-vs-rag/)にまとめています。

## モデルは本当にウィンドウ全体を使っていますか？

均等には使っていません。この点で研究の結果は一貫しています。

-   [Lost in the Middle](https://arxiv.org/abs/2307.03172) の論文（Liu ほか）は、性能が “is often highest when relevant information occurs at the beginning or end of the input context”（訳：関連情報が入力コンテキストの冒頭か末尾にあるときに最も高くなることが多い）としています。
-   Chroma の [Context Rot](https://www.trychroma.com/research/context-rot) レポートは 18 のモデルをテストし、単純なタスクでも “performance grows increasingly unreliable as input length grows”（訳：入力が長くなるにつれて性能はますます不安定になる）ことを見出しました。

これらの研究は BroadNet 上のモデルをテストしたものではないので、測定結果ではなく警告として受け止めてください。実用上のルールは、100 万トークンを受け付けるウィンドウだからといって、すべてのトークンが等しく注目されるわけではない、ということです。最も重要な内容は冒頭か末尾の近くに置き、自分の文書で再現率をテストしてください。

## 100 万トークンのプロンプトにはいくらかかりますか？

[従量課金](https://broadrouter.com/ja/glossary/pay-as-you-go/)キーでは、DeepSeek V4.1 Flash は 100 万入力トークンあたり $0.175、100 万[キャッシュ入力トークン](https://broadrouter.com/ja/glossary/cached-input-tokens/)あたり $0.0055 で課金されます。100 万トークンいっぱいのプロンプトは、初回は約 $0.175 で、プレフィックスがキャッシュされれば繰り返しの呼び出しははるかに安くなります。[キャッシュ率を上げる方法](https://broadrouter.com/ja/blog/cached-input-tokens-explained/)を参照してください。

[プロンプトキャッシュ計算ツール](https://broadrouter.com/tools/prompt-caching-calculator/)を使えば、自分のプロンプトサイズでキャッシュヒットがどれだけ節約になるかがわかります。具体例として、同じ 80 万トークンの契約書一式について 10 の質問をするとします。キャッシュがなければ、100 万トークンあたり $0.175 で 800 万トークンです。文書を先頭に置いて同一に保てば、初回の呼び出しは新規の 80 万トークンを読み、続く 9 回はその大部分を 100 万トークンあたり $0.0055 でキャッシュから読めます。変わるのは質問と回答だけです。

無制限プランでは、プロンプトのサイズで請求額は変わりません。Full Moon はセッションあたり月 $60 で、トークンの計量はありません。ロングコンテキストのエージェントが、[トークン課金より定額プラン](https://broadrouter.com/ja/blog/flat-rate-vs-pay-per-token-llm-api/)を選ぶよくある理由になっているのはこのためです。

## 回答にはどれくらい余地を残すべきですか？

ウィンドウにはプロンプト**と**出力の両方が含まれ、推論モデルでは出力に思考も含まれます。1,040,000 トークンのプロンプトを送ると、[推論](https://broadrouter.com/ja/glossary/reasoning-tokens/)と回答に残るのは約 8,000 トークンだけです。余裕を確保し、[`max_tokens`](https://broadrouter.com/ja/glossary/max-tokens/) を明示的に設定し、[推論モデルが空の回答を返すことがある理由](https://broadrouter.com/ja/guides/reasoning-tokens-empty-response/)をお読みください。

## 100 万トークンのプロンプトに向けてコードベースを準備する方法

1.  \*\*モデルに不要なものを除外します。\*\*ロックファイル、ビルド成果物、vendoring した依存関係、画像、生成コードはトークンを食い、ノイズを増やします。
2.  \*\*送る前に数えます。\*\*小さなサンプルを送り、usage から `prompt_tokens` を読み、スケールアップします。
3.  \*\*安定性の順に並べます。\*\*めったに変わらないファイルを先に、編集中のファイルを後に、質問を一番最後に置きます。こうするとプレフィックスがキャッシュされ続けます。
4.  **すべてのファイルにラベルを付けます。**`=== path/to/file.py ===` のようなわかりやすい区切りでファイルを囲めば、モデルが引用できます。
5.  **引用を求めます。**「根拠にした行を引用してください」と頼むと、巨大な入力での自信満々な間違いが減ります。
6.  \*\*測ります。\*\*リクエストごとにプロンプトトークン、キャッシュトークン、最初のトークンまでの時間をログに残します。[ストリーミング](https://broadrouter.com/ja/guides/streaming-chat-completions/)なら、最初のトークンが届いた時点で表示できます。

## BroadNet Inference が向いている場面

チャットモデルのうち 2 つが 1 リクエストあたり 1,048,576 トークンを受け付け、BroadNet はコンテキストを削りません。トークン課金のキーではキャッシュで繰り返しの長いプロンプトを手頃に保て、プランのセッションではプロンプトのサイズが請求に影響しません。コーパスが 100 万トークンをはるかに超える場合や毎分変わる場合は、やはり検索が必要で、それはウィンドウのサイズでは変わりません。

関連する無料ツール（英語）

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[無料ツール（英語）](https://broadrouter.com/tools/)

## この記事の用語

[トークン（token）](https://broadrouter.com/ja/glossary/token/)

トークンとは、言語モデルが読み書きするテキストの単位です。モデルのトークナイザーが作る単語、単語の一部、句読点、バイト列のいずれかにあたります。LLM API は利用量をトークンで数え、上限を設け、通常はトークン単位で課金します。

[AI エージェント（AI agent）](https://broadrouter.com/ja/glossary/agent/)

AI エージェントとは、言語モデルが目標に向けて自分で手順を決めるシステムです。どのツールを呼ぶかを決め、結果を読み、最終回答を出すか上限に達するまで繰り返します。決まった箇所でモデルを呼ぶ固定のスクリプトは、ふつうワークフローと呼ばれます。

[キャッシュ入力トークン（cached input tokens）](https://broadrouter.com/ja/glossary/cached-input-tokens/)

キャッシュ入力トークンとは、LLM プロバイダーが直前に処理し、再計算せずにキャッシュから再利用できるプロンプトのトークンです。通常はシステムプロンプトやドキュメントなど繰り返し送るプレフィックスで、新しい入力トークンより安い単価で課金されます。

[従量課金（pay-as-you-go）](https://broadrouter.com/ja/glossary/pay-as-you-go/)

従量課金とは、使った分だけを支払う料金体系です。トークン、リクエスト、音声の分数などの単位で計測され、サブスクリプションや最低利用額はありません。多くの LLM API はこの方式で、前払いの残高か定期的な請求書から支払います。

[入力トークンと出力トークン（input and output tokens）](https://broadrouter.com/ja/glossary/input-and-output-tokens/)

入力トークンとは、モデルがリクエストで読むトークンで、システムプロンプト、会話履歴、ツール定義、画像を含みます。出力トークンは、推論を含めモデルが返答として生成するトークンです。LLM API は通常この 2 つを別の単価で課金し、出力のほうが高額です。

[Lost in the Middle（中間の情報の見落とし）](https://broadrouter.com/ja/glossary/lost-in-the-middle/)

Lost in the Middle とは、言語モデルが長い入力の中で、関連情報が冒頭や末尾にあるときに最もよく活用し、中間にあるときに最も活用できないという傾向です。Liu らの 2023 年の研究で名付けられました。

[コンテキストの劣化（context rot）](https://broadrouter.com/ja/glossary/context-rot/)

コンテキストの劣化（context rot）とは、入力が長くなるにつれて言語モデルの精度と信頼性が徐々に下がる現象です。タスクが同じで、入力がコンテキストウィンドウに十分収まっていても起こります。18 モデルを検証した Chroma の 2025 年の技術レポートで広まった用語です。

[ツール呼び出し（Function Calling、tool calling）](https://broadrouter.com/ja/glossary/tool-calling/)

ツール呼び出し（Function Calling とも呼ばれます）とは、開発者が定義した関数の実行を求める構造化されたリクエストを、モデルが JSON の引数付きで返す LLM API の機能です。関数を実行して結果を返すのはアプリケーションで、モデル自身がコードを実行することはありません。

## よくある質問

### BroadNet は長いプロンプトを切り詰めますか？

いいえ。BroadNet はコンテキストを削りません。プロンプトと max\_tokens の合計がモデルのウィンドウを超える場合は、黙って切り詰められることを当てにせず、プロンプトを短くしてください。

### 100 万トークンは何単語ですか？

言語と内容によります。BroadRouter のトークナイザーデータセットでは、英語の文章は 100 単語あたり約 129 トークン（5 つのトークナイザーの平均で、1,000 単語が約 1,290 トークン）だったので、1,048,576 トークンにはおよそ 810,000 単語、優に千ページ以上が入ります。技術文書、コード、アラビア語はより多くのトークンを使うので、実際の内容で数えてください。

### 100 万トークンのリクエストは遅いですか？

モデルは先にプロンプト全体を読む必要があるので、短いリクエストより書き始めるまでに時間がかかります。繰り返しの呼び出しでは、たいていキャッシュされたプレフィックスが役立ちます。自分のプロンプトで最初のトークンまでの時間を測ってください。

### LLM は本当にコンテキストウィンドウ全体を使っていますか？

均等には使っていません。Lost in the Middle の論文は、関連情報が入力の冒頭か末尾にあるときに精度が最も高くなることが多いとし、Chroma の Context Rot レポートは、入力が長くなるにつれて信頼性が下がるとしています。重要な内容は両端に置き、自分のデータでテストしてください。

### RAG はもう使わなくてよいですか？

必ずしもそうではありません。モデルがすべてを一緒に見る必要があるならロングコンテキストを、巨大なライブラリからいくつかの事実を拾うなら検索を使います。両方を組み合わせるシステムも多くあります。

### プロンプトがコンテキストウィンドウより大きいとどうなりますか？

BroadNet は代わりに切り詰めないので、リクエストは意図どおりに動きません。送る前にファイルを外す、古いターンを要約する、関連する部分だけを検索する、のいずれかをしてください。

## 続けて読む

-   [キャッシュ入力トークンとは：LLM API の請求額を下げる方法](https://broadrouter.com/ja/blog/cached-input-tokens-explained/)
-   [定額の LLM API で並列コーディングエージェントを動かす方法](https://broadrouter.com/ja/blog/run-parallel-coding-agents-flat-rate/)
-   [LLM API は定額とトークン課金のどちらが得か：損益分岐の計算](https://broadrouter.com/ja/blog/flat-rate-vs-pay-per-token-llm-api/)
-   [BroadNet の GPU ハードウェアとサービング方式（BroadNet の説明による）](https://broadrouter.com/ja/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM API のレスポンスをキャッシュしてコスト削減：Python の完全一致キャッシュ](https://broadrouter.com/ja/blog/cache-llm-responses-cut-cost/)
-   [ガイド：推論モデルが空の回答を返す理由](https://broadrouter.com/ja/guides/reasoning-tokens-empty-response/)
-   [ガイド：chat completions のストリーミングと接続切断への対処](https://broadrouter.com/ja/guides/streaming-chat-completions/)

実際のワークロードで試してください。新規アカウントには US$5 の初回クレジットがあり、Gemma、文字起こし に使えます。DeepSeek、GLM、Qwen3.8 はチャージが必要です。

[始める](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-blog-million-token-context-window-guide&utm_content=page-cta) ·

**出典**

-   [BroadNet Inference の機械可読な料金とコンテキスト長（pricing.json）（英語）](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-blog-million-token-context-window-guide&utm_content=sources)
-   [BroadNet Inference API リファレンス（英語）](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ja-blog-million-token-context-window-guide&utm_content=sources)
-   [Liu ほか「Lost in the Middle：言語モデルはロングコンテキストをどう使うか」（arXiv 2307.03172）](https://arxiv.org/abs/2307.03172)
-   [Chroma「Context Rot：入力トークンの増加が LLM の性能に与える影響」（2025 年 7 月）](https://www.trychroma.com/research/context-rot)
