BroadRouter
Commencer

Compaction du contexte (context compaction)

Mis à jour

La compaction du contexte consiste à résumer une conversation qui approche de la limite de la fenêtre de contexte et à poursuivre la session à partir de ce résumé, afin qu’un agent conserve les décisions clés et l’état tout en abandonnant l’historique brut, comme les anciennes sorties d’outils.

Aussi appelé : compaction du contexte, compaction, compactage du contexte, résumé de conversation, auto-compact, context compaction, conversation compaction, context summarization

Les longues sessions d’agent dépassent leur fenêtre de contexte. La compaction remplace l’historique complet par un résumé et continue.

Comment ça marche

L’article d’Anthropic sur le context engineering définit la compaction comme « the practice of taking a conversation nearing the context window limit, summarizing its contents, » (traduction : « la pratique consistant à prendre une conversation qui approche de la limite de la fenêtre de contexte et à en résumer le contenu ») puis à ouvrir une nouvelle fenêtre de contexte avec ce résumé. Dans Claude Code, selon l’article, le modèle « preserves architectural decisions, unresolved bugs, and implementation details, » (traduction : « conserve les décisions d’architecture, les bugs non résolus et les détails d’implémentation »), abandonne les sorties d’outils redondantes et continue avec le résumé plus « the five most recently accessed files » (traduction : « les cinq fichiers consultés le plus récemment »).

La forme la plus légère est l’effacement des résultats d’outils. Le même article la qualifie de « one of the safest lightest touch forms of compaction » (traduction : « l’une des formes de compaction les plus sûres et les plus légères ») : les anciennes sorties brutes d’outils enfouies dans l’historique sont supprimées, et tout le reste demeure.

Les outils exposent la compaction de différentes manières :

Outil Fonctionnement de la compaction
Claude Code La compaction automatique résume l’historique près de la limite ; /compact Focus on ... la lance à la main avec des instructions sur ce qu’il faut garder
OpenAI Responses API context_management avec un compact_threshold compacte côté serveur quand le nombre de tokens le dépasse, ou appelez l’endpoint de compaction autonome
Votre propre agent Demander au modèle de résumer l’historique, puis démarrer une nouvelle liste de messages avec le prompt système, le résumé et les derniers tours

Un exemple chiffré : un agent à 180 000 tokens d’historique compacte en un résumé de 6 000 tokens plus 20 000 tokens de fichiers récents. Chaque tour suivant envoie environ 26 000 tokens d’historique au lieu de 180 000, et ce chiffre ne cesserait de croître.

Pourquoi c’est important

  • Longueur. Sans compaction, une longue tâche s’arrête quand la fenêtre de contexte est pleine.
  • Qualité. La précision peut baisser bien avant la limite, un problème appelé context rot. Un contexte plus court et plus propre peut aider.
  • Coût. En facturation au token, chaque tour renvoie l’historique. La compaction le réduit, mais la requête de compaction lit elle-même l’historique complet une fois, et le préfixe réécrit doit être remis en cache (tokens d’entrée en cache).
  • Risque. Un résumé peut perdre un détail qui comptera plus tard. Rédigez des instructions personnalisées sur ce qu’il faut garder, et conservez les faits critiques dans un fichier de notes.

Sur BroadNet Inference

L’API de BroadNet est une Chat Completions sans état : vous envoyez la liste complète des messages à chaque fois, et la documentation de BroadNet ne décrit aucune compaction côté serveur. La compaction se fait dans votre agent ou votre outil, qui envoie ensuite l’historique raccourci.

DeepSeek V4.1 Flash et GLM 5.3 acceptent 1 048 576 tokens de contexte : la compaction est donc nécessaire moins souvent, mais les points de coût et de qualité ci-dessus restent valables en paiement à l’usage. Avec un forfait, il n’y a pas de compteur de tokens : la compaction compte alors pour la qualité et la vitesse plutôt que pour la facture. La gestion du contexte des agents de longue durée explique quand compacter et quoi abandonner en premier.

Questions fréquentes

La compaction fait-elle perdre des informations ?

Oui, par conception. Un résumé garde ce que le résumeur a jugé important et abandonne le reste. Conservez les faits à ne pas perdre, comme les exigences et les bugs ouverts, dans un fichier de notes que l’agent peut relire.

La compaction est-elle gratuite ?

Non. La documentation de Claude Code souligne que la compaction lit toute la conversation qu’elle résume : compacter un grand contexte est donc en soi une grosse requête. Repartir de zéro avec /clear ne coûte rien, mais ne garde aucune continuité.

La compaction casse-t-elle le prompt caching ?

Elle réécrit l’historique : la requête suivante rate donc le cache pour la partie réécrite. Claude Code considère cela comme une reconstruction attendue du cache. Ensuite, l’historique raccourci se met en cache normalement.

Lire en MarkdownDemander à ChatGPTDemander à ClaudeDemander à Perplexity