BroadRouter
Começar

Context compaction (compactação de contexto)

Atualizado em

Context compaction é a prática de resumir uma conversa que está chegando ao limite da janela de contexto e continuar a sessão a partir desse resumo, para que o agente mantenha decisões importantes e o estado, descartando histórico bruto como saídas antigas de ferramentas.

Também chamado de: compactação de contexto, compactação, resumo de contexto, compaction, auto-compact, conversation compaction, context summarization

Sessões longas de agentes ficam maiores que a janela de contexto. A compactação troca o histórico completo por um resumo e segue em frente.

Como funciona

O post da Anthropic sobre context engineering define compaction como “the practice of taking a conversation nearing the context window limit, summarizing its contents,” (tradução: a prática de pegar uma conversa perto do limite da janela de contexto e resumir o seu conteúdo) e iniciar uma nova janela de contexto com esse resumo. No Claude Code, segundo o post, o modelo “preserves architectural decisions, unresolved bugs, and implementation details,” (tradução: preserva decisões de arquitetura, bugs não resolvidos e detalhes de implementação), descarta saídas redundantes de ferramentas e continua com o resumo mais “the five most recently accessed files.” (tradução: os cinco arquivos acessados mais recentemente.)

A forma mais leve é a limpeza de resultados de ferramentas. O mesmo post a chama de “one of the safest lightest touch forms of compaction” (tradução: uma das formas de compactação mais seguras e menos invasivas): saídas brutas antigas de ferramentas, lá no fundo do histórico, são removidas, e todo o resto fica.

As ferramentas expõem a compactação de jeitos diferentes:

Ferramenta Como a compactação roda
Claude Code A compactação automática resume o histórico perto do limite; /compact Focus on ... roda manualmente com instruções sobre o que manter
OpenAI Responses API context_management com um compact_threshold compacta no servidor quando a contagem de tokens passa desse valor, ou você chama o endpoint de compactação avulso
O seu próprio agente Peça ao modelo que resuma o histórico e depois comece uma nova lista de mensagens com o system prompt, o resumo e os turnos mais recentes

Um cálculo de exemplo: um agente com 180.000 tokens de histórico compacta para um resumo de 6.000 tokens mais 20.000 tokens de arquivos recentes. Cada turno seguinte envia cerca de 26.000 tokens de histórico em vez de 180.000 e crescendo.

Por que isso importa

  • Duração. Sem compactação, uma tarefa longa para quando a janela de contexto enche.
  • Qualidade. A precisão pode cair bem antes do limite, um problema chamado context rot. Um contexto mais curto e mais limpo pode ajudar.
  • Custo. Na cobrança por token, cada turno reenvia o histórico. A compactação o encolhe, embora a própria requisição de compactação leia o histórico inteiro uma vez, e o prefixo reescrito precise entrar em cache de novo (tokens de entrada em cache).
  • Risco. Um resumo pode descartar um detalhe que vai importar depois. Escreva instruções próprias sobre o que manter e guarde os fatos críticos em um arquivo de notas.

Na BroadNet Inference

A API da BroadNet é Chat Completions sem estado: você envia a lista completa de mensagens a cada vez, e a documentação da BroadNet não descreve um recurso de compactação no servidor. A compactação acontece no seu agente ou ferramenta, que então envia o histórico mais curto.

O DeepSeek V4.1 Flash e o GLM 5.3 aceitam 1.048.576 tokens de contexto, então a compactação é necessária com menos frequência, mas os pontos de custo e qualidade acima continuam valendo no pagamento por uso. Em um plano de preço fixo não há medidor de tokens, então a compactação importa pela qualidade e pela velocidade, não pela fatura. Gestão de contexto para agentes de longa duração explica quando compactar e o que descartar primeiro.

Perguntas frequentes

A compactação perde informação?

Sim, por definição. Um resumo mantém o que quem resumiu julgou importante e descarta o resto. Guarde os fatos que você não pode perder, como requisitos e bugs em aberto, em um arquivo de notas que o agente possa reler.

A compactação é gratuita?

Não. A documentação do Claude Code lembra que compactar lê a conversa inteira que está sendo resumida, então compactar um contexto grande já é, por si só, uma requisição grande. Começar do zero com /clear não custa nada, mas não mantém continuidade.

A compactação quebra o prompt caching?

Ela reescreve o histórico, então a próxima requisição perde o cache na parte reescrita. O Claude Code considera isso uma reconstrução de cache esperada. Depois disso, o histórico mais curto entra em cache normalmente.

Ler em MarkdownPerguntar ao ChatGPTPerguntar ao ClaudePerguntar ao Perplexity