Deel B · Module 04

Context als schaars goed

Waarom vergeet of verwart een agent dingen?

Zone: machine ± 15 min kern

Leerdoelen

Na deze module kun je:

  • voor een agent-sessie aanwijzen wat er in het contextvenster zit, en in welke volgorde het erin kwam;
  • uitleggen waarom een voller venster slechter werkt, ook ruim vóór de limiet (context rot), en wat dat kost;
  • voorspellen wat compaction bewaart en wat het weggooit, en kiezen tussen /clear, /compact met focus en delegeren.

Voorkennis-check

Twee vragen over de transformer en de loop. Fout? Lees A2 De transformer en B3 De agentic loop eerst terug.

Waar zitten we?

Context hoort bij laag 3, de loop: elke beurt bouwt de harness een request uit alles wat er tot nu toe gebeurde, en die request groeit. Het contextvenster is de grens van laag 1, het model. Wat erin zit, bepaalt de harness.

De stof in drie lagen

Kern ± 5 min lezen, daarna een sessie doorlopen

In B3 zag je dat de API niets onthoudt: elke beurt stuurt de harness het héle gesprek opnieuw. Alles wat het model "weet" over je sessie, staat in die ene request: system prompt, tools, CLAUDE.md, elk gelezen bestand, elke tool-output, elk eigen antwoord. Dat is het contextvenster: het werkgeheugen van het model.

Op de huidige modellen is dat venster groot: 1 miljoen tokens. Toch is context schaars, om drie redenen:

  1. Kwaliteit: hoe meer tokens, hoe slechter het model iets specifieks terugvindt. Dat heet context rot. Irrelevante tekst is niet neutraal.
  2. Kosten en snelheid: elk token in de context wordt bij elke beurt opnieuw verwerkt (caching verlaagt de prijs, niet de omvang; zie D5).
  3. Vergeten: als het venster volloopt, wordt het gesprek samengevat. Wat niet in de samenvatting komt en niet van schijf wordt herladen, is weg.

Context, therefore, must be treated as a finite resource with diminishing marginal returns. Like humans, who have limited working memory capacity, LLMs have an “attention budget” that they draw on when parsing large volumes of context.

Doorloop hieronder eerst een echte sessie uit de documentatie van Claude Code: wat zit er al in voordat je typt, wat voegt elk gelezen bestand toe, en wat blijft er over na /compact? Kijk daarna naar "Een dag zonder /clear".

Samengevat: het venster is zelden te klein. Het probleem is wat erin staat. Goede context is de kleinste set tokens met het meeste signaal. Begin elke ongerelateerde taak schoon (/clear), en laat lees- en zoekwerk dat je niet hoeft te bewaren buiten je gesprek (C4).

Verdieping waarom lange context slechter werkt, strategieën

Waarom meer context slechter werkt

De oorzaak zit in de architectuur uit A2. In een transformer kan elk token aandacht geven aan elk ander token: bij n tokens zijn dat n² paren. Hoe langer de context, hoe dunner die aandacht over al die paren verdeeld wordt. Bovendien zien modellen in training vaker korte dan zeer lange sequenties, dus ze hebben minder ervaring met afhankelijkheden over de hele context.

As token count grows, accuracy and recall degrade, a phenomenon known as context rot. This makes curating what’s in context just as important as how much space is available.

Wat telt mee

Alles in de request telt mee: de system prompt, elk bericht in messages (inclusief tool-resultaten, afbeeldingen en documenten), en de tool-definities. De output van de huidige beurt, inclusief thinking, telt ook mee. In de usage van elke response zie je wat de request verbruikte; met prompt caching is de invoer verdeeld over input_tokens, cache_read_input_tokens en cache_creation_input_tokens, en ze tellen alle drie mee.

Vier strategieën

Hoe je context klein en relevant houdt
StrategieIdeeIn Claude Code
Just-in-timeniet alles vooraf laden, maar verwijzingen bewaren (paden, queries) en ophalen als het nodig isClaude zoekt met Grep en Glob en leest gericht; alleen CLAUDE.md laadt vooraf
Compactioneen vol gesprek samenvatten en verder met de samenvattingautomatisch bij een vol venster; /compact <focus> met eigen focus
Notities buiten het vensterde agent schrijft notities naar schijf en haalt ze later terugauto memory (MEMORY.md), SPEC.md, plannen op schijf (B5, D2)
Isolatiezwaar zoekwerk in een apart venster; alleen een samenvatting komt terugsubagents (C4)

Claude Code is an agent that employs this hybrid model: CLAUDE.md files are naively dropped into context up front, while primitives like glob and grep allow it to navigate its environment and retrieve files just-in-time, effectively bypassing the issues of stale indexing and complex syntax trees.

Anthropic Engineering, Effective context engineering for AI agents

Wat overleeft compaction?

Na compaction in Claude Code (selectie uit de docs)
MechanismeNa compaction
System prompt, output styleblijven gelden
Root-CLAUDE.md, rules zonder paths, auto memoryopnieuw van schijf ingevoegd
Rules met paths, CLAUDE.md in submappenpas weer bij gebruik van een passend bestand
Gelezen of bewerkte bestandenmaximaal vijf, de recentst gewijzigde eerst; bestanden boven 5.000 tokens alleen als verwijzing
Aangeroepen skillsterug, max. 5.000 tokens per skill en 25.000 samen
Context die hooks eerder toevoegdensamengevat met de rest
Je eigen instructies in de chatalleen als ze in de samenvatting terechtkomen

Een veelgemaakte fout: een belangrijke afspraak alleen in het gesprek maken. Na compaction is die een regel in een samenvatting, of helemaal weg. Wat moet blijven, zet je in CLAUDE.md (C1) of in een bestand.

Een nuance: de grote vensters veranderen het advies

De best practices van Claude Code noemen "beheer het contextvenster agressief" inmiddels verouderd advies. Met 1M tokens en automatische compaction loop je zelden vast. Wat blijft: /clear tussen taken, omdat een gerichte context betere antwoorden geeft en minder kost. Een subagent is vooral nuttig voor parallel werk, ruisende output en een onafhankelijke review, niet om het venster te "redden".

Onder de motorkap commando's, compaction-API, limieten

In Claude Code

Context beheren in een sessie
CommandoDoet
/contextlive verdeling van je context per categorie, met optimalisatietips; /context all toont ook de kosten per MCP-tool
/clearnieuw gesprek; CLAUDE.md en de rest van de opstart laden opnieuw
/compact <focus>nu samenvatten, met jouw focus ("focus on the auth bug fix")
/rewind → Summarize from here / up to hereeen deel van het gesprek samenvatten
/autocompact 500kbepalen hoe vol het venster wordt voor automatische compaction start

Een sectie "Compact Instructions" in CLAUDE.md stuurt wat compaction bewaart. Een SessionStart-hook met matcher compact kan na compaction context terugzetten (C2). Is één bestand of tool-output zo groot dat het venster na elke samenvatting meteen weer vol is, dan stopt Claude Code na een paar pogingen met auto-compacten en toont het een fout, in plaats van eindeloos door te gaan.

In je eigen agent: de API

  • Server-side compaction: de API vat oudere beurten samen; jij stuurt het teruggegeven blok mee in plaats van de berichten die het vervangt. Op aanvraag of bij een tokendrempel (beta).
  • Context editing (beta): de API wist vóór verwerking oude tool-resultaten (clear_tool_uses_20250919) of thinking-blokken uit de historie. "Tool result clearing" is volgens Anthropic een van de veiligste en lichtste vormen van compaction: waarom zou een agent een oud zoekresultaat diep in de historie nog eens moeten zien?
  • Token counting: schat een request vóór je hem verstuurt (A1).

De getallen

  • Venster: 1M tokens op de huidige generatie (Fable, Opus 5.x, Sonnet 5.x, Haiku 5.5 en enkele 4.x-modellen); oudere modellen 200k. Max. output per request: 128k.
  • Thinking-tokens tellen mee voor max_tokens en het venster, en worden als output gefactureerd.
  • Een subagent krijgt het venster van zijn eigen model.

… good context engineering means finding the smallest possible set of high-signal tokens that maximize the likelihood of some desired outcome.

Anthropic Engineering, Effective context engineering for AI agents

Uitgewerkt voorbeeld: /context lezen en ingrijpen

Halverwege een sessie voelt Claude "trager en vager". Zo ziet een (ingekorte) /context eruit, en zo lees je hem:

/context (vereenvoudigd)

Context usage   212k / 1M tokens
  System prompt          4.2k
  System tools          11.8k
  MCP tools              0.4k   (deferred)
  Memory files           9.6k
  Skills                 0.5k
  Messages             185.5k
  1. 21% van het venster. Ruimte is niet het probleem. Maar 212k tokens per request is traag, kost geld, en het model moet in 185k tokens gesprek de relevante details terugvinden.
  2. MCP-tools uitgesteld door tool search: alleen namen. Hier valt niets te winnen.
  3. 9,6k aan memory files: een CLAUDE.md van 600 regels? Die gaat in élke request mee. Kort hem in en verplaats de rest naar rules en skills (C1).
  4. 185k aan berichten: dit is het werk van eerdere taken. Is de huidige taak een nieuwe, dan /clear. Hoort het bij elkaar, dan /compact focus on de checkout-refactor; vergeet de logs van het debuggen.
Doe-opdracht

Meet je eigen context en zie wat compaction overlaat

Gebruik een project waaraan je werkt, of oefenrepo/c4-subagents/. Je hebt alleen Claude Code nodig.

Opdracht

  1. Start een nieuwe sessie en draai meteen /context. Noteer het totaal en de grootste posten vóór je eerste vraag.
  2. Laat Claude drie of vier flinke bestanden lezen en een testsuite draaien. Draai /context opnieuw: hoeveel kwam erbij, en onder welke categorie?
  3. Geef in de chat een afspraak die niet in CLAUDE.md staat: "Noem in elk antwoord het woord PINGUÏN." Controleer dat Claude het doet.
  4. Draai /compact (zonder focus). Vraag iets. Doet Claude het nog? Draai /context: wat is er over?
  5. Maak het beter. Zet de afspraak in CLAUDE.md, of voeg een sectie ## Compact Instructions toe ("Bewaar altijd: de afspraken over antwoordvorm"). Herhaal stap 3 en 4.
Verwacht resultaat

Stap 1: enkele duizenden tokens vóór je eerste vraag (system prompt, tools, CLAUDE.md, memory). Het exacte getal hangt af van je setup.

Stap 2: de groei zit bijna helemaal onder Messages: gelezen bestanden en tool-output.

Stap 4: de berichten zijn vervangen door een samenvatting en een paar herladen bestanden. De PINGUÏN-afspraak kan blijven (als hij in de samenvatting kwam) of verdwijnen: dat is precies het punt. Het is niet gegarandeerd.

Stap 5: vanuit CLAUDE.md overleeft de afspraak elke compaction, want CLAUDE.md wordt van schijf herladen.

Als het niet werkt, kijk naar …
  • Compact verandert weinig. Bij een korte sessie valt er weinig samen te vatten. Laat eerst meer lezen.
  • Andere categorieën dan hier. De indeling van /context verschilt per versie; het gaat om de verhouding tussen opstart en gesprek.
  • Afspraak blijft altijd hangen. Dan nam de samenvatting hem mee. Probeer een afspraak die minder opvalt, of compact twee keer.

Zelftoets