長いエージェントのセッションは、やがてコンテキストウィンドウに収まらなくなります。圧縮は、完全な履歴を要約に置き換えて作業を続ける方法です。
しくみ
Anthropic のコンテキストエンジニアリングの記事は、圧縮を “the practice of taking a conversation nearing the context window limit, summarizing its contents,“(訳:コンテキストウィンドウの上限に近づいた会話を取り出し、その内容を要約する手法)と定義し、その要約で新しいコンテキストウィンドウを始めるとしています。記事によると、Claude Code ではモデルが “preserves architectural decisions, unresolved bugs, and implementation details,“(訳:アーキテクチャ上の決定、未解決のバグ、実装の詳細を保持し)、重複したツール出力を捨て、要約と “the five most recently accessed files.”(訳:直近にアクセスした 5 つのファイル)で作業を続けます。
最も軽い形は、ツール結果の消去です。同じ記事はこれを “one of the safest lightest touch forms of compaction”(訳:最も安全で最も軽い圧縮の形の一つ)と呼んでいます。履歴の奥にある古い生のツール出力を削除し、それ以外はすべて残します。
圧縮の提供方法はツールによって異なります。
| ツール | 圧縮の動き方 |
|---|---|
| Claude Code | 上限に近づくと自動圧縮が履歴を要約します。/compact Focus on ... で、残す内容を指示して手動で実行できます |
| OpenAI Responses API | compact_threshold を指定した context_management で、トークン数がしきい値を超えるとサーバー側で圧縮します。単独の compact エンドポイントを呼ぶこともできます |
| 自作のエージェント | モデルに履歴を要約させ、システムプロンプト、要約、直近のターンで新しいメッセージリストを始めます |
計算例です。履歴が 180,000 トークンに達したエージェントを、6,000 トークンの要約と 20,000 トークンの直近のファイルに圧縮します。以降のターンで送る履歴は、180,000 トークンからさらに増えていく代わりに約 26,000 トークンになります。
なぜ重要か
- 長さ。 圧縮しなければ、長いタスクはコンテキストウィンドウが埋まった時点で止まります。
- 品質。 上限よりかなり前から精度が落ちることがあり、これはコンテキストの劣化(context rot)と呼ばれます。短く整理されたコンテキストが役立つことがあります。
- コスト。 トークン課金では、ターンごとに履歴を送り直します。圧縮で履歴は短くなりますが、圧縮のリクエスト自体が完全な履歴を一度読み、書き換えたプレフィックスはもう一度キャッシュされる必要があります(キャッシュ入力トークン)。
- リスク。 要約が、後で必要になる細部を落とすことがあります。何を残すかについて独自の指示を書き、重要な事実はメモファイルに残してください。
BroadNet Inference の場合
BroadNet の API はステートレスな Chat Completions です。毎回メッセージのリスト全体を送り、BroadNet のドキュメントにはサーバー側の圧縮機能の記載はありません。圧縮はエージェントやツールの側で行われ、短くなった履歴が送られます。
DeepSeek V4.1 Flash と GLM 5.3 は 1,048,576 トークンのコンテキストを受け付けるので、圧縮が必要になる頻度は下がりますが、従量課金では上のコストと品質の注意点が引き続き当てはまります。定額プランにはトークンの計量がないので、圧縮は請求額ではなく、品質と速度のための問題になります。いつ圧縮し、何から捨てるかは長時間動くエージェントのコンテキスト管理で解説しています。