BroadRouter
Начать

Сжатие контекста (context compaction)

Обновлено

Сжатие контекста — это приём, при котором диалог, подходящий к пределу контекстного окна, суммаризируется, и сессия продолжается с этого резюме: агент сохраняет ключевые решения и состояние, а сырую историю, например старый вывод инструментов, отбрасывает.

Также называют: сжатие контекста, компактизация, компакция контекста, суммаризация контекста, сжатие истории диалога, compaction, context compaction, auto-compact, conversation compaction, context summarization

Длинные сессии агентов перерастают своё контекстное окно. Сжатие заменяет полную историю резюме и продолжает работу.

Как это работает

Статья Anthropic о контекстной инженерии определяет сжатие как “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (перевод: «приём, при котором диалог, подходящий к пределу контекстного окна, суммаризируется») с последующим запуском нового контекстного окна с этим резюме. В Claude Code, как сказано в статье, модель “preserves architectural decisions, unresolved bugs, and implementation details,” (перевод: «сохраняет архитектурные решения, нерешённые баги и детали реализации»), отбрасывает избыточный вывод инструментов и продолжает с резюме и “the five most recently accessed files.” (перевод: «пятью файлами, к которым обращались последними».)

Самая лёгкая форма — очистка результатов инструментов. Та же статья называет её “one of the safest lightest touch forms of compaction” (перевод: «одной из самых безопасных и щадящих форм сжатия»): старый сырой вывод инструментов глубоко в истории удаляется, а всё остальное остаётся.

Инструменты дают доступ к сжатию по-разному:

Инструмент Как выполняется сжатие
Claude Code Автоматическое сжатие суммаризирует историю у предела; /compact Focus on ... запускает его вручную с указаниями, что сохранить
OpenAI Responses API context_management с compact_threshold сжимает историю на стороне сервера, когда число токенов превышает порог; можно также вызвать отдельный эндпоинт compact
Ваш собственный агент Попросите модель суммаризировать историю, затем начните новый список сообщений с системным промптом, резюме и последними ходами

Пример на числах: агент со 180 000 токенов истории сжимает её до резюме на 6000 токенов плюс 20 000 токенов недавних файлов. Каждый следующий ход отправляет около 26 000 токенов истории вместо 180 000 и более.

Почему это важно

  • Длина. Без сжатия длинная задача останавливается, когда заполняется контекстное окно.
  • Качество. Точность может падать задолго до предела — эту проблему называют деградацией контекста (context rot). Более короткий и чистый контекст может помочь.
  • Стоимость. При оплате за токены каждый ход отправляет историю заново. Сжатие её уменьшает, хотя сам запрос на сжатие один раз читает всю историю, а переписанный префикс приходится кэшировать заново (кэшированные входные токены).
  • Риск. Резюме может выбросить деталь, которая понадобится позже. Пишите собственные указания о том, что сохранять, и держите критичные факты в файле заметок.

В BroadNet Inference

API BroadNet — это Chat Completions без состояния: вы каждый раз отправляете полный список сообщений, а серверного сжатия в документации BroadNet нет. Сжатие происходит в вашем агенте или инструменте, который затем отправляет более короткую историю.

DeepSeek V4.1 Flash и GLM 5.3 принимают 1 048 576 токенов контекста, так что сжатие нужно реже, но при оплате по факту соображения о стоимости и качестве выше всё равно действуют. На тарифе с фиксированной ценой учёта токенов нет, поэтому сжатие важно для качества и скорости, а не для счёта. Когда сжимать и что отбрасывать в первую очередь, описано в статье об управлении контекстом долгоработающих агентов.

Вопросы и ответы

Теряется ли при сжатии информация?

Да, так и задумано. Резюме сохраняет то, что суммаризатор счёл важным, и отбрасывает остальное. Факты, которые терять нельзя, например требования и открытые баги, держите в файле заметок, который агент может перечитать.

Сжатие бесплатное?

Нет. Документация Claude Code отмечает, что при сжатии читается весь суммаризируемый диалог, так что сжатие большого контекста само по себе — большой запрос. Начать заново через /clear ничего не стоит, но и преемственности не сохраняет.

Ломает ли сжатие кэширование промптов?

Сжатие переписывает историю, поэтому следующий запрос промахивается мимо кэша в переписанной части. Claude Code считает это ожидаемым пересозданием кэша. После этого более короткая история кэшируется как обычно.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity