Deel B · Module 04
Context als schaars goed
Waarom vergeet of verwart een agent dingen?
Leerdoelen
Na deze module kun je:
- voor een agent-sessie aanwijzen wat er in het contextvenster zit, en in welke volgorde het erin kwam;
- uitleggen waarom een voller venster slechter werkt, ook ruim vóór de limiet (context rot), en wat dat kost;
- voorspellen wat compaction bewaart en wat het weggooit, en kiezen tussen
/clear,/compactmet focus en delegeren.
Voorkennis-check
Twee vragen over de transformer en de loop. Fout? Lees A2 De transformer en B3 De agentic loop eerst terug.
Waar zitten we?
Context hoort bij laag 3, de loop: elke beurt bouwt de harness een request uit alles wat er tot nu toe gebeurde, en die request groeit. Het contextvenster is de grens van laag 1, het model. Wat erin zit, bepaalt de harness.
De stof in drie lagen
Kern ± 5 min lezen, daarna een sessie doorlopen
In B3 zag je dat de API niets onthoudt: elke beurt stuurt de harness het héle gesprek opnieuw. Alles wat het model "weet" over je sessie, staat in die ene request: system prompt, tools, CLAUDE.md, elk gelezen bestand, elke tool-output, elk eigen antwoord. Dat is het contextvenster: het werkgeheugen van het model.
Op de huidige modellen is dat venster groot: 1 miljoen tokens. Toch is context schaars, om drie redenen:
- Kwaliteit: hoe meer tokens, hoe slechter het model iets specifieks terugvindt. Dat heet context rot. Irrelevante tekst is niet neutraal.
- Kosten en snelheid: elk token in de context wordt bij elke beurt opnieuw verwerkt (caching verlaagt de prijs, niet de omvang; zie D5).
- Vergeten: als het venster volloopt, wordt het gesprek samengevat. Wat niet in de samenvatting komt en niet van schijf wordt herladen, is weg.
Context, therefore, must be treated as a finite resource with diminishing marginal returns. Like humans, who have limited working memory capacity, LLMs have an “attention budget” that they draw on when parsing large volumes of context.
Doorloop hieronder eerst een echte sessie uit de documentatie van Claude Code: wat zit er al in voordat je typt, wat voegt elk gelezen bestand toe, en wat blijft er over na /compact? Kijk daarna naar "Een dag zonder /clear".
Samengevat: het venster is zelden te klein. Het probleem is wat erin staat. Goede context is de kleinste set tokens met het meeste signaal. Begin elke ongerelateerde taak schoon (/clear), en laat lees- en zoekwerk dat je niet hoeft te bewaren buiten je gesprek (C4).
Verdieping waarom lange context slechter werkt, strategieën
Waarom meer context slechter werkt
De oorzaak zit in de architectuur uit A2. In een transformer kan elk token aandacht geven aan elk ander token: bij n tokens zijn dat n² paren. Hoe langer de context, hoe dunner die aandacht over al die paren verdeeld wordt. Bovendien zien modellen in training vaker korte dan zeer lange sequenties, dus ze hebben minder ervaring met afhankelijkheden over de hele context.
As token count grows, accuracy and recall degrade, a phenomenon known as context rot. This makes curating what’s in context just as important as how much space is available.
Wat telt mee
Alles in de request telt mee: de system prompt, elk bericht in messages (inclusief tool-resultaten, afbeeldingen en documenten), en de tool-definities. De output van de huidige beurt, inclusief thinking, telt ook mee. In de usage van elke response zie je wat de request verbruikte; met prompt caching is de invoer verdeeld over input_tokens, cache_read_input_tokens en cache_creation_input_tokens, en ze tellen alle drie mee.
Vier strategieën
| Strategie | Idee | In Claude Code |
|---|---|---|
| Just-in-time | niet alles vooraf laden, maar verwijzingen bewaren (paden, queries) en ophalen als het nodig is | Claude zoekt met Grep en Glob en leest gericht; alleen CLAUDE.md laadt vooraf |
| Compaction | een vol gesprek samenvatten en verder met de samenvatting | automatisch bij een vol venster; /compact <focus> met eigen focus |
| Notities buiten het venster | de agent schrijft notities naar schijf en haalt ze later terug | auto memory (MEMORY.md), SPEC.md, plannen op schijf (B5, D2) |
| Isolatie | zwaar zoekwerk in een apart venster; alleen een samenvatting komt terug | subagents (C4) |
Claude Code is an agent that employs this hybrid model: CLAUDE.md files are naively dropped into context up front, while primitives like glob and grep allow it to navigate its environment and retrieve files just-in-time, effectively bypassing the issues of stale indexing and complex syntax trees.
Wat overleeft compaction?
| Mechanisme | Na compaction |
|---|---|
| System prompt, output style | blijven gelden |
Root-CLAUDE.md, rules zonder paths, auto memory | opnieuw van schijf ingevoegd |
Rules met paths, CLAUDE.md in submappen | pas weer bij gebruik van een passend bestand |
| Gelezen of bewerkte bestanden | maximaal vijf, de recentst gewijzigde eerst; bestanden boven 5.000 tokens alleen als verwijzing |
| Aangeroepen skills | terug, max. 5.000 tokens per skill en 25.000 samen |
| Context die hooks eerder toevoegden | samengevat met de rest |
| Je eigen instructies in de chat | alleen als ze in de samenvatting terechtkomen |
Een veelgemaakte fout: een belangrijke afspraak alleen in het gesprek maken. Na compaction is die een regel in een samenvatting, of helemaal weg. Wat moet blijven, zet je in CLAUDE.md (C1) of in een bestand.
Een nuance: de grote vensters veranderen het advies
De best practices van Claude Code noemen "beheer het contextvenster agressief" inmiddels verouderd advies. Met 1M tokens en automatische compaction loop je zelden vast. Wat blijft: /clear tussen taken, omdat een gerichte context betere antwoorden geeft en minder kost. Een subagent is vooral nuttig voor parallel werk, ruisende output en een onafhankelijke review, niet om het venster te "redden".
Onder de motorkap commando's, compaction-API, limieten
In Claude Code
| Commando | Doet |
|---|---|
/context | live verdeling van je context per categorie, met optimalisatietips; /context all toont ook de kosten per MCP-tool |
/clear | nieuw gesprek; CLAUDE.md en de rest van de opstart laden opnieuw |
/compact <focus> | nu samenvatten, met jouw focus ("focus on the auth bug fix") |
/rewind → Summarize from here / up to here | een deel van het gesprek samenvatten |
/autocompact 500k | bepalen hoe vol het venster wordt voor automatische compaction start |
Een sectie "Compact Instructions" in CLAUDE.md stuurt wat compaction bewaart. Een SessionStart-hook met matcher compact kan na compaction context terugzetten (C2). Is één bestand of tool-output zo groot dat het venster na elke samenvatting meteen weer vol is, dan stopt Claude Code na een paar pogingen met auto-compacten en toont het een fout, in plaats van eindeloos door te gaan.
In je eigen agent: de API
- Server-side compaction: de API vat oudere beurten samen; jij stuurt het teruggegeven blok mee in plaats van de berichten die het vervangt. Op aanvraag of bij een tokendrempel (beta).
- Context editing (beta): de API wist vóór verwerking oude tool-resultaten (
clear_tool_uses_20250919) of thinking-blokken uit de historie. "Tool result clearing" is volgens Anthropic een van de veiligste en lichtste vormen van compaction: waarom zou een agent een oud zoekresultaat diep in de historie nog eens moeten zien? - Token counting: schat een request vóór je hem verstuurt (A1).
De getallen
- Venster: 1M tokens op de huidige generatie (Fable, Opus 5.x, Sonnet 5.x, Haiku 5.5 en enkele 4.x-modellen); oudere modellen 200k. Max. output per request: 128k.
- Thinking-tokens tellen mee voor
max_tokensen het venster, en worden als output gefactureerd. - Een subagent krijgt het venster van zijn eigen model.
… good context engineering means finding the smallest possible set of high-signal tokens that maximize the likelihood of some desired outcome.
Uitgewerkt voorbeeld: /context lezen en ingrijpen
Halverwege een sessie voelt Claude "trager en vager". Zo ziet een (ingekorte) /context eruit, en zo lees je hem:
/context (vereenvoudigd)
Context usage 212k / 1M tokens
System prompt 4.2k
System tools 11.8k
MCP tools 0.4k (deferred)
Memory files 9.6k
Skills 0.5k
Messages 185.5k
- 21% van het venster. Ruimte is niet het probleem. Maar 212k tokens per request is traag, kost geld, en het model moet in 185k tokens gesprek de relevante details terugvinden.
- MCP-tools uitgesteld door tool search: alleen namen. Hier valt niets te winnen.
- 9,6k aan memory files: een CLAUDE.md van 600 regels? Die gaat in élke request mee. Kort hem in en verplaats de rest naar rules en skills (C1).
- 185k aan berichten: dit is het werk van eerdere taken. Is de huidige taak een nieuwe, dan
/clear. Hoort het bij elkaar, dan/compact focus on de checkout-refactor; vergeet de logs van het debuggen.
Meet je eigen context en zie wat compaction overlaat
Gebruik een project waaraan je werkt, of oefenrepo/c4-subagents/. Je hebt alleen Claude Code nodig.
Opdracht
- Start een nieuwe sessie en draai meteen
/context. Noteer het totaal en de grootste posten vóór je eerste vraag. - Laat Claude drie of vier flinke bestanden lezen en een testsuite draaien. Draai
/contextopnieuw: hoeveel kwam erbij, en onder welke categorie? - Geef in de chat een afspraak die niet in CLAUDE.md staat: "Noem in elk antwoord het woord PINGUÏN." Controleer dat Claude het doet.
- Draai
/compact(zonder focus). Vraag iets. Doet Claude het nog? Draai/context: wat is er over? - Maak het beter. Zet de afspraak in CLAUDE.md, of voeg een sectie
## Compact Instructionstoe ("Bewaar altijd: de afspraken over antwoordvorm"). Herhaal stap 3 en 4.
Verwacht resultaat
Stap 1: enkele duizenden tokens vóór je eerste vraag (system prompt, tools, CLAUDE.md, memory). Het exacte getal hangt af van je setup.
Stap 2: de groei zit bijna helemaal onder Messages: gelezen bestanden en tool-output.
Stap 4: de berichten zijn vervangen door een samenvatting en een paar herladen bestanden. De PINGUÏN-afspraak kan blijven (als hij in de samenvatting kwam) of verdwijnen: dat is precies het punt. Het is niet gegarandeerd.
Stap 5: vanuit CLAUDE.md overleeft de afspraak elke compaction, want CLAUDE.md wordt van schijf herladen.
Als het niet werkt, kijk naar …
- Compact verandert weinig. Bij een korte sessie valt er weinig samen te vatten. Laat eerst meer lezen.
- Andere categorieën dan hier. De indeling van
/contextverschilt per versie; het gaat om de verhouding tussen opstart en gesprek. - Afspraak blijft altijd hangen. Dan nam de samenvatting hem mee. Probeer een afspraak die minder opvalt, of compact twee keer.