Einen Prompt schreiben Sie einmal. Kontext ist alles, was das Modell in jeder Runde sieht, und bei einem Agenten ändert er sich mit jeder Runde.
So funktioniert es
Der Engineering-Beitrag von Anthropic beschreibt Context Engineering als „the set of strategies for curating and maintaining the optimal set of tokens“ (Übersetzung: „die Gesamtheit der Strategien, mit denen die optimale Menge an Tokens kuratiert und gepflegt wird“) während der Inferenz, einschließlich Informationen jenseits des Prompts. Als Ziel nennt er, die „smallest possible set of high-signal tokens“ (Übersetzung: „kleinstmögliche Menge aussagekräftiger Tokens“) zu finden, die das gewünschte Ergebnis wahrscheinlich macht.
Der Grund ist begrenzte Aufmerksamkeit. Laut dem Beitrag haben Modelle ein „attention budget“ (Übersetzung: „Aufmerksamkeitsbudget“), und die Erinnerungsleistung sinkt mit wachsendem Kontext, was er Context Rot nennt. Auch die Position zählt: Fakten in der Mitte eines langen Prompts werden leichter übersehen (Lost in the Middle).
Der Beitrag nennt mehrere Techniken für lang laufende Agenten:
| Technik | Was sie bewirkt |
|---|---|
| Compaction | Verlauf kurz vor dem Limit zusammenfassen und mit der Zusammenfassung weitermachen |
| Tool-Ergebnisse entfernen | Alte, rohe Tool-Outputs aus dem Verlauf streichen |
| Strukturierte Notizen | Der Agent schreibt Notizen in eine Datei außerhalb des Kontexts und liest sie später wieder |
| Subagents | Gezielte Arbeit in einem frischen Kontext erledigen und eine kurze Zusammenfassung zurückgeben |
| Just-in-time-Retrieval | Verweise (Dateipfade, Abfragen) behalten und die Daten erst bei Bedarf laden |
Ein durchgerechnetes Beispiel für das Budget einer Runde in einem Coding-Agenten:
System prompt + rules 4,000 tokens
Tool definitions 6,000 tokens
Notes file 1,500 tokens
History (compacted) 20,000 tokens
Latest tool output 8,000 tokens <- largest single item
Warum es wichtig ist
- Qualität. Weniger Rauschen im Kontext bedeutet meist bessere Antworten und weniger übersehene Anweisungen.
- Kosten. Bei Abrechnung pro Token wird jedes Token im Kontext in jeder Runde berechnet. Stabile Inhalte am Anfang sind als gecachter Input günstiger; siehe Prompt-Struktur für Caching.
- Laufzeit. Mit gutem Kontextmanagement kann ein Agent stundenlang arbeiten, ohne an das Kontextfenster zu stoßen.
Bei BroadNet Inference
Context Engineering findet in Ihrem Code statt: Die Chat Completions API von BroadNet erhält genau die Nachrichtenliste, die Sie senden. DeepSeek V4.1 Flash und GLM 5.3 akzeptieren 1.048.576 Tokens, Qwen3.8 27B 262.144 und Gemma 4 VL 26B 32K. Ein knapper Kontext zählt also bei Gemma am meisten.
Wenn das Modell sie meldet, zeigt usage.prompt_tokens_details.cached_tokens die aus dem Cache gelesenen Tokens; bei Pay-as-you-go werden sie zum Preis für gecachten Input berechnet. Kontextmanagement für lang laufende Agenten gibt fünf praxistaugliche Regeln, und der Beitrag zum Token-Budget von Agenten zeigt, wohin die Tokens eines Agenten fließen.