BroadRouter
Loslegen

Context Compaction (Kontextverdichtung)

Aktualisiert

Context Compaction bedeutet, eine Konversation, die sich dem Limit des Kontextfensters nähert, zusammenzufassen und die Session mit dieser Zusammenfassung fortzusetzen, sodass ein Agent wichtige Entscheidungen und den Zustand behält und rohen Verlauf wie alte Tool-Ausgaben verwirft.

Auch genannt: Kontextverdichtung, Kontextkomprimierung, Compaction, Auto-Compact, Context Compaction, compaction, auto-compact, conversation compaction, context summarization

Lange Agent-Sessions wachsen über ihr Kontextfenster hinaus. Compaction tauscht den vollständigen Verlauf gegen eine Zusammenfassung und macht weiter.

So funktioniert es

Der Beitrag von Anthropic zu Context Engineering definiert Compaction als „the practice of taking a conversation nearing the context window limit, summarizing its contents,“ (Übersetzung: „die Praxis, eine Konversation, die sich dem Limit des Kontextfensters nähert, zu nehmen und ihren Inhalt zusammenzufassen“) und ein neues Kontextfenster mit dieser Zusammenfassung zu beginnen. In Claude Code, so der Beitrag, „preserves architectural decisions, unresolved bugs, and implementation details,“ (Übersetzung: „bewahrt [das Modell] Architekturentscheidungen, ungelöste Bugs und Implementierungsdetails“), verwirft redundante Tool-Ausgaben und macht mit der Zusammenfassung plus „the five most recently accessed files“ (Übersetzung: „den fünf zuletzt aufgerufenen Dateien“) weiter.

Die leichteste Form ist das Löschen von Tool-Ergebnissen. Derselbe Beitrag nennt sie „one of the safest lightest touch forms of compaction“ (Übersetzung: „eine der sichersten und schonendsten Formen der Compaction“): Alte, rohe Tool-Ausgaben tief im Verlauf werden entfernt, alles andere bleibt.

Tools bieten Compaction auf unterschiedliche Weise an:

Tool Wie Compaction abläuft
Claude Code Auto-Compaction fasst den Verlauf nahe dem Limit zusammen; /compact Focus on ... startet sie von Hand, mit Anweisungen, was erhalten bleiben soll
OpenAI Responses API context_management mit einem compact_threshold verdichtet serverseitig, sobald die Token-Zahl ihn überschreitet, oder Sie rufen den eigenständigen Compact-Endpoint auf
Ihr eigener Agent Das Modell bitten, den Verlauf zusammenzufassen, dann eine neue Nachrichtenliste mit System-Prompt, Zusammenfassung und den letzten Durchgängen beginnen

Ein Rechenbeispiel: Ein Agent mit 180.000 Tokens Verlauf verdichtet auf eine Zusammenfassung von 6.000 Tokens plus 20.000 Tokens aktueller Dateien. Jeder spätere Durchgang sendet etwa 26.000 Tokens Verlauf statt 180.000 und mehr.

Warum es wichtig ist

  • Länge. Ohne Compaction endet eine lange Aufgabe, wenn das Kontextfenster voll ist.
  • Qualität. Die Genauigkeit kann schon lange vor dem Limit sinken, ein Problem namens Context Rot. Ein kürzerer, sauberer Kontext kann helfen.
  • Kosten. Bei Abrechnung pro Token sendet jeder Durchgang den Verlauf erneut. Compaction verkleinert ihn, allerdings liest die Compaction-Anfrage selbst einmal den vollständigen Verlauf, und das umgeschriebene Präfix muss neu gecacht werden (gecachte Input-Tokens).
  • Risiko. Eine Zusammenfassung kann ein Detail verlieren, das später wichtig wird. Schreiben Sie eigene Anweisungen, was erhalten bleiben soll, und halten Sie kritische Fakten in einer Notizdatei fest.

Bei BroadNet Inference

Die API von BroadNet ist zustandsloses Chat Completions: Sie senden jedes Mal die vollständige Nachrichtenliste, und die Dokumentation von BroadNet beschreibt keine serverseitige Compaction. Compaction passiert in Ihrem Agent oder Tool, das dann den kürzeren Verlauf sendet.

DeepSeek V4.1 Flash und GLM 5.3 nehmen 1.048.576 Tokens Kontext an, Compaction ist also seltener nötig, aber die genannten Punkte zu Kosten und Qualität gelten bei Pay-as-you-go weiterhin. Bei einem Flatrate-Plan gibt es keinen Token-Zähler; dort zählt Compaction für Qualität und Geschwindigkeit statt für die Rechnung. Kontextmanagement für lang laufende Agents behandelt, wann Sie verdichten und was zuerst wegfallen sollte.

Häufige Fragen

Gehen bei Compaction Informationen verloren?

Ja, das ist so gewollt. Eine Zusammenfassung behält, was der Zusammenfassende für wichtig hielt, und verwirft den Rest. Halten Sie Fakten, die nicht verloren gehen dürfen, etwa Anforderungen und offene Bugs, in einer Notizdatei fest, die der Agent erneut lesen kann.

Ist Compaction kostenlos?

Nein. Die Dokumentation von Claude Code weist darauf hin, dass beim Verdichten die gesamte zusammengefasste Konversation gelesen wird; das Verdichten eines großen Kontexts ist also selbst eine große Anfrage. Ein Neustart mit /clear kostet nichts, bewahrt aber keine Kontinuität.

Bricht Compaction das Prompt Caching?

Sie schreibt den Verlauf um, also verfehlt die nächste Anfrage den Cache für den umgeschriebenen Teil. Claude Code wertet das als erwarteten Neuaufbau des Caches. Danach wird der kürzere Verlauf wie gewohnt gecacht.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen