---
title: "Gestão de contexto para agentes de LLM de longa duração"
description: "Como manter sessões longas de agentes precisas e baratas com uma janela de 1M de tokens: histórico append-only, cache, quando compactar e o que cortar primeiro."
url: https://broadrouter.com/pt/blog/long-running-agent-context-management/
lang: pt-BR
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Traduzido do inglês com ajuda de IA. [Leia o original em inglês](https://broadrouter.com/blog/long-running-agent-context-management/) (atualizado em 2026-11-16).

# Gestão de contexto para agentes de longa duração com janela de 1M

Pela equipe da BroadNet Inference · 6 min de leitura · Publicado em 2026-11-14 · Atualizado em 2026-11-16

Trate o contexto como um log append-only: primeiro um system prompt e uma lista de ferramentas fixos, depois um histórico que só cresce, para que cada turno reaproveite o prefixo em cache. Com uma janela de 1.048.576 tokens, como no DeepSeek V4.1 Flash, compacte raramente e em passos grandes, corte primeiro a saída volumosa das ferramentas e guarde os fatos duradouros num arquivo de notas curto que o agente relê.

## Pontos principais

-   Uma janela grande adia os problemas de contexto; não os elimina. Planeje o que acontece perto do limite.
-   Um histórico append-only mantém estável o prefixo do prompt, então a entrada em cache continua barata.
-   Cada reescrita do histórico anterior quebra o cache daquele ponto em diante.
-   Corte a saída volumosa das ferramentas (logs, dumps de arquivos) antes de cortar raciocínio e decisões.
-   Compacte raramente e em passos grandes, e mantenha um arquivo de notas curto com os fatos duradouros.

**Nesta página**

1.  O que uma janela de 1M de tokens oferece a um agente de longa duração?
2.  Regra 1: por que o histórico deve ser append-only?
3.  Regra 2: como medir a taxa de cache?
4.  Regra 3: o que cortar primeiro quando o contexto cresce?
5.  Regra 4: quando um agente deve compactar o histórico?
6.  Regra 5: o que vai num arquivo de notas?
7.  Como os tokens de raciocínio afetam o orçamento?
8.  Isso importa num plano de preço fixo?
9.  Checklist de gestão de contexto

Um agente de programação que trabalha uma tarde inteira acumula muito histórico: arquivos lidos, comandos executados, saída de testes, planos, correções. A cada turno, tudo isso volta para o modelo. A forma como você gerencia esse contexto crescente decide três coisas ao mesmo tempo: quanto custa cada turno, quão rápido ele responde e se o agente ainda lembra o que estava fazendo.

Uma janela de 1M de tokens muda os trade-offs. Não faz com que desapareçam.

## O que uma janela de 1M de tokens oferece a um agente de longa duração?

Na BroadNet Inference, o [DeepSeek V4.1 Flash](https://broadrouter.com/pt/models/deepseek-v4.1-flash/) e o [GLM 5.3](https://broadrouter.com/pt/models/glm-5.3/) aceitam até 1.048.576 tokens por requisição, somando prompt e resposta. O [Qwen3.8 27B](https://broadrouter.com/pt/models/qwen3.8-27b/) aceita 262.144. Com janelas menores, um agente precisa resumir depois de uma ou duas horas de trabalho. Com um milhão de tokens, geralmente dá para manter o histórico bruto de uma sessão inteira e só compactar perto do fim de uma execução muito longa.

É uma vantagem real: resumos perdem informação, e cada resumo é uma chance de esquecer justamente o detalhe que importava. Mas três custos continuam crescendo com o prompt:

-   **Dinheiro**, numa chave por token, porque cada turno reenvia o prompt inteiro.
-   **Latência**, porque o servidor precisa processar cada token de entrada antes do primeiro token de saída.
-   **Atenção.** A qualidade pode cair à medida que a entrada cresce, um efeito chamado [context rot](https://broadrouter.com/pt/glossary/context-rot/). O artigo [“Lost in the Middle”](https://arxiv.org/abs/2307.03172) concluiu que os modelos tendem a usar com mais confiabilidade as informações do início e do fim de uma entrada longa do que as do meio. Modelos mais novos se saem melhor, mas o hábito de manter os fatos importantes perto das bordas ainda compensa.

## Regra 1: por que o histórico deve ser append-only?

O prompt caching compara o prompt a partir do início. Se os primeiros 300.000 tokens deste turno forem idênticos aos do turno anterior, eles podem vir do cache; o primeiro token diferente encerra a correspondência. A API da BroadNet informa isso em `usage.prompt_tokens_details.cached_tokens` quando o modelo fornece o dado, e cobra a entrada em cache a uma tarifa menor: $0.0055 por 1M de tokens no DeepSeek V4.1 Flash, contra $0.175 pela entrada nova.

Então estruture cada requisição sempre na mesma ordem e só acrescente no final:

```text
[ system prompt ]        never changes during a session
[ tool definitions ]     fixed order, never changes
[ project notes ]        changes rarely, and only by appending
[ turn 1 ... turn N ]    grows at the end
[ new message ]
```

Os culpados de sempre que quebram o prefixo são um timestamp no system prompt, definições de ferramentas em ordem instável e a re-renderização de resultados antigos de ferramentas. Para agentes, acrescente mais um: o corte em “janela deslizante”, que descarta o turno mais antigo toda vez e desloca tudo o que vem depois. Cada um deles transforma um prompt em cache num prompt novo; [estrutura do prompt para cache](https://broadrouter.com/pt/blog/prompt-structure-for-caching/) lista os demais, com um teste que prova que o prefixo está em cache. Numa sessão longa a diferença é grande: a maior parte do prompt pode ser entrada em cache em vez de entrada nova. [Como a entrada em cache é cobrada](https://broadrouter.com/pt/blog/cached-input-tokens-explained/).

## Regra 2: como medir a taxa de cache?

Registre-a em cada requisição. Com o SDK da OpenAI, bastam três linhas depois da chamada:

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

resp = client.chat.completions.create(model="broadnet/deepseek-v4.1-flash", messages=history, max_tokens=8000)
u = resp.usage
cached = (u.prompt_tokens_details.cached_tokens if u.prompt_tokens_details else 0) or 0
print(f"turn prompt={u.prompt_tokens:,} cached={cached:,} ({cached / max(1, u.prompt_tokens):.0%})")
```

Um agente append-only saudável mostra uma fatia alta de tokens em cache em todos os turnos depois do primeiro. Uma queda repentina para perto de zero significa que algo no começo do prompt mudou. Encontre e fixe. A [calculadora de prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/) transforma uma taxa de cache em dinheiro por sessão.

## Regra 3: o que cortar primeiro quando o contexto cresce?

Quando o contexto realmente precisa encolher, o que você descarta faz diferença. Na maioria das transcrições de agentes, o grosso é saída de ferramentas: um log de testes de 4.000 linhas, um arquivo inteiro lido para achar uma função, uma listagem de diretório. A parte valiosa é pequena: o plano, as decisões e o porquê, os erros que foram corrigidos.

Ordem do que cortar, do primeiro ao último:

1.  **Saída de ferramentas desatualizada.** Substitua o corpo dos resultados antigos por um stub de uma linha: “ran pytest: 3 failures in test\_api.py (fixed in turn 14)”.
2.  **Conteúdo de arquivos superado.** Se o agente leu `api.py`, editou e leu de novo, a primeira leitura é peso morto.
3.  **Explorações que não levaram a nada.** Buscas e leituras que não resultaram em mudança.
4.  **Raciocínio e planos.** Mantenha-os por mais tempo. Eles explicam por que o código está do jeito que está.

Truncar a saída das ferramentas no momento em que ela é produzida é ainda melhor. Limite cada resultado (por exemplo, as últimas 200 linhas de um log mais a contagem de linhas) e deixe o agente pedir mais se precisar. Assim o histórico continua append-only e pequeno.

## Regra 4: quando um agente deve compactar o histórico?

A compactação (resumir o histórico mais antigo num bloco mais curto) é a ferramenta pesada. Ela reescreve o prefixo, então o turno depois de uma compactação paga o preço cheio de entrada por tudo o que vem depois do system prompt. Compactar um pouco a cada poucos turnos significa pagar esse preço de novo e de novo.

Melhor assim:

-   **Escolha um limite alto.** Com uma janela de 1M, compactar quando ela estiver, digamos, 60–70% cheia deixa espaço para o turno de resumo e para uma longa cauda de trabalho novo.
-   **Mantenha a cauda recente na íntegra.** Resuma a parte antiga e deixe intacto o último trecho de turnos. A [documentação de compaction](https://opencode.ai/docs/compaction/) do opencode descreve isso: ele resume a conversa e mantém a parte mais recente, cerca de 15.000 tokens por padrão.
-   **Resuma com o prompt completo.** Enviar a conversa inteira na requisição de resumo permite reaproveitar o cache do turno anterior.
-   **Compacte uma vez e volte a acrescentar.** Depois de uma compactação, o novo prefixo fica estável e o cache recomeça dali.

## Regra 5: o que vai num arquivo de notas?

Alguns fatos precisam sobreviver a qualquer número de compactações: o objetivo, as restrições, as decisões tomadas, os comandos que compilam e testam o projeto. Guarde-os num arquivo de notas curto (um `NOTES.md` ou um arquivo de tarefas) ao qual o agente acrescenta linhas e que ele relê. Ele fica perto do topo do prompt, muda raramente e é a primeira coisa que uma sessão nova lê se a execução recomeçar.

É também a forma mais barata de memória: alguns milhares de tokens que poupam o agente de redescobrir os mesmos fatos depois de cada resumo.

## Como os tokens de raciocínio afetam o orçamento?

DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B raciocinam antes de responder, e o raciocínio conta em `max_tokens`. Uma sessão longa não muda isso, mas prompts grandes tentam as pessoas a baixar `max_tokens` para “abrir espaço”. Não faça isso. Um orçamento de saída apertado produz respostas vazias, que o agente depois tenta de novo. [Por que as respostas voltam vazias](https://broadrouter.com/pt/guides/reasoning-tokens-empty-response/).

Lembre também que a janela conta prompt e resposta juntos. Perto de 1.048.576 tokens de prompt, não sobra espaço para responder. Compacte antes de chegar lá; a [calculadora de janela de contexto](https://broadrouter.com/tools/context-window-calculator/) mostra quanto espaço um prompt deixa livre.

## Isso importa num plano de preço fixo?

Numa sessão de plano da BroadNet, o DeepSeek V4.1 Flash não tem medidor de tokens: uma sessão Full Moon custa $60 por mês, não importa o tamanho dos prompts. O argumento financeiro a favor do cache desaparece. Os outros dois, não. Em muitos sistemas de serving, um prefixo em cache costuma ser processado mais rápido, e um contexto bem gerenciado dá respostas melhores. Os hábitos são os mesmos; só muda o motivo. [Como funcionam as sessões do plano](https://broadrouter.com/pt/guides/unlimited-llm-api-sessions/).

## Checklist de gestão de contexto

-   System prompt e lista de ferramentas fixos durante toda a sessão.
-   Histórico só por acréscimo; turnos antigos nunca reformatados.
-   Taxa de cache registrada em cada requisição.
-   Saída das ferramentas limitada ao ser produzida; saída desatualizada trocada por stub depois.
-   Compactação num limite alto, mantendo a cauda recente na íntegra.
-   Um arquivo de notas com objetivo, restrições e decisões.
-   Orçamento de saída grande o bastante para o raciocínio.

Para saber quando vale a pena usar uma janela de um milhão de tokens, veja o [guia da janela de contexto de 1M](https://broadrouter.com/pt/blog/million-token-context-window-guide/). Para interromper sessões que crescem sem progredir, veja [controle de custo de loops de agentes](https://broadrouter.com/pt/blog/cut-coding-agent-llm-costs/).

Ferramentas gratuitas sobre o tema (em inglês)

-   [Agent run cost estimator](https://broadrouter.com/tools/agent-run-cost-estimator/) Context growth per step, total tokens and cost of one agent run, with a DeepSeek session comparison.
-   [LLM batch job planner](https://broadrouter.com/tools/llm-batch-job-planner/) Run time, binding limit, cost per model and the flat sessions needed to finish a big job by a deadline.
-   [Flat-rate vs per-token LLM cost calculator](https://broadrouter.com/tools/flat-rate-vs-per-token-calculator/) Break-even between an unlimited plan and paying per token, per agent.
-   [LLM rate limit and concurrency calculator](https://broadrouter.com/tools/llm-rate-limit-calculator/) Which limit binds first: RPM, TPM or concurrency, with Little's law.

[Ferramentas gratuitas (em inglês)](https://broadrouter.com/tools/)

## Termos neste artigo

[Token](https://broadrouter.com/pt/glossary/token/)

Um token é a unidade de texto que um modelo de linguagem lê e escreve: uma palavra, parte de uma palavra, um sinal de pontuação ou uma sequência de bytes gerada pelo tokenizador do modelo. As APIs de LLM contam, limitam e normalmente cobram o uso em tokens.

[Tool calling (chamada de ferramentas)](https://broadrouter.com/pt/glossary/tool-calling/)

Tool calling, também chamado de function calling ou chamada de ferramentas, é um recurso de APIs de LLM em que o modelo devolve um pedido estruturado para executar uma função definida pelo desenvolvedor, com argumentos JSON. A aplicação executa a função e devolve o resultado; o modelo nunca executa código sozinho.

[Context compaction (compactação de contexto)](https://broadrouter.com/pt/glossary/context-compaction/)

Context compaction é a prática de resumir uma conversa que está chegando ao limite da janela de contexto e continuar a sessão a partir desse resumo, para que o agente mantenha decisões importantes e o estado, descartando histórico bruto como saídas antigas de ferramentas.

[Tokens de entrada em cache (cached input)](https://broadrouter.com/pt/glossary/cached-input-tokens/)

Tokens de entrada em cache são tokens do prompt que um provedor de LLM processou há pouco e pode reaproveitar de um cache em vez de calcular de novo, normalmente um prefixo repetido, como um system prompt ou um documento. Os provedores os cobram com uma tarifa menor que a dos tokens de entrada novos.

[Prompt de sistema (system prompt)](https://broadrouter.com/pt/glossary/system-prompt/)

O system prompt, ou prompt de sistema, é o texto de instruções que uma aplicação envia a um modelo de linguagem antes da conversa, em geral como mensagem com o papel system ou developer. Ele define o papel, as regras, o tom e o formato de saída do modelo, que deve segui-lo mesmo quando mensagens do usuário o contradizem.

[Context rot (degradação de contexto)](https://broadrouter.com/pt/glossary/context-rot/)

Context rot é a perda gradual de precisão e confiabilidade que os modelos de linguagem mostram conforme a entrada fica mais longa, mesmo quando a tarefa é a mesma e a entrada está bem dentro da janela de contexto. O termo foi popularizado por um relatório técnico da Chroma de 2025 que testou 18 modelos.

[Janela de contexto (context window)](https://broadrouter.com/pt/glossary/context-window/)

A janela de contexto é o número máximo de tokens com que um modelo de linguagem consegue trabalhar em uma única requisição. Ela abrange o prompt, o histórico da conversa, as definições de ferramentas, as imagens e a saída gerada, incluindo os tokens de raciocínio. O que não couber precisa ser cortado, resumido ou dividido em várias requisições.

[Lost in the middle (perdido no meio)](https://broadrouter.com/pt/glossary/lost-in-the-middle/)

Lost in the middle é a tendência observada de modelos de linguagem usarem melhor as informações relevantes quando elas aparecem perto do início ou do fim de uma entrada longa, e pior quando ficam no meio. O nome vem de um estudo de 2023 de Liu et al.

## Perguntas frequentes

### Se o modelo tem uma janela de 1M, por que gerenciar o contexto?

Porque custo, latência e precisão mudam à medida que o prompt cresce. Prompts longos demoram mais para ser processados, custam mais por turno numa chave por token, e pesquisas mostram que os modelos usam com menos confiabilidade as informações que ficam no meio de entradas longas.

### Como sei se o meu agente está acertando o cache?

Quando o modelo informa, o bloco usage inclui prompt\_tokens\_details.cached\_tokens. Divida esse valor por prompt\_tokens em cada requisição e registre a taxa nos logs.

### A compactação importa num plano de preço fixo?

Não para a conta, já que uma sessão do plano não tem medidor de tokens. Ainda importa para a velocidade e para a qualidade das respostas em sessões muito longas.

## Continue lendo

-   [Quando vale a pena uma janela de contexto de 1M de tokens (ou não)](https://broadrouter.com/pt/blog/million-token-context-window-guide/)
-   [Tokens de entrada em cache: como reduzir a conta de API de LLM](https://broadrouter.com/pt/blog/cached-input-tokens-explained/)
-   [10 formas de reduzir o custo de LLM de agentes de código, com economia](https://broadrouter.com/pt/blog/cut-coding-agent-llm-costs/)
-   [Como rodar agentes de código à noite sem supervisão, com segurança](https://broadrouter.com/pt/blog/overnight-coding-agent-runs/)
-   [Custo de uma execução de agente de código: passos, contexto e cache](https://broadrouter.com/pt/blog/ai-coding-agent-run-cost/)
-   [Claude Code com modelos abertos: proxies, endpoints nativos e limites](https://broadrouter.com/pt/blog/claude-code-with-openai-compatible-models/)
-   [Guia: Streaming de chat completions e conexões que caem](https://broadrouter.com/pt/guides/streaming-chat-completions/)
-   [Guia: Por que um modelo de raciocínio devolve uma resposta vazia](https://broadrouter.com/pt/guides/reasoning-tokens-empty-response/)
-   [Guia: Como funcionam os planos de API de LLM ilimitada para agentes](https://broadrouter.com/pt/guides/unlimited-llm-api-sessions/)

Teste com a sua carga de trabalho real. Contas novas começam com US$ 5 de crédito para Gemma e transcrição. DeepSeek, GLM e Qwen3.8 exigem uma recarga.

[Começar](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-blog-long-running-agent-context-management&utm_content=page-cta) ·

**Fontes**

-   [Referência da API da BroadNet Inference, tokens de raciocínio e em cache (em inglês)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=pt-blog-long-running-agent-context-management&utm_content=sources)
-   [Liu et al., Lost in the Middle: How Language Models Use Long Contexts (arXiv)](https://arxiv.org/abs/2307.03172)
-   [Documentação do opencode, compaction](https://opencode.ai/docs/compaction/)
