← Naar het model Capability

Governance & autonomie

Wat het is

AI-governance is het geheel van afspraken waarmee een organisatie AI doelgericht en verantwoord inzet: wie beslist, wat er mag, wie verantwoordelijk is en hoe je ziet dat het werkt. Goede governance geeft richting Γ©n ruimte. Iedereen weet waar je vrij kunt bewegen en waar de grenzen liggen.

Met agents komt daar een vraag bij die eerder niet bestond: wat mag een systeem zelf doen, zonder dat er per geval een mens tussen zit? Het antwoord hangt niet af van wat het systeem technisch kan, maar van twee eigenschappen van elke handeling. Is ze terug te draaien? En hoe zwaar is het gevolg als ze fout gaat?

Het verschil met Compliance: daar gaat het om wat de wet vraagt. Governance gaat over wat je zelf afspreekt, ook waar geen wet iets voorschrijft. Het verschil met Security & identiteit: daar gaat het om bescherming tegen misbruik. Governance bepaalt welke rechten een agent ΓΌberhaupt hoort te hebben.

Een herkenbaar voorbeeld: een agent handelt klantvragen af. Een ticket labelen en doorzetten mag hij zelf; dat is omkeerbaar en het gevolg is klein. Een terugbetaling klaarzetten mag ook, maar een mens keurt goed. EΓ©n agent, twee handelingen, twee verschillende regels.

Waarom

Het AI Risk Management Framework van NIST kent vier functies: Govern, Map, Measure en Manage. Govern is daarin geen losse stap, maar de functie die door de andere drie heen loopt. Het gaat om een cultuur van risicobeheer, met rollen, verantwoordelijkheden en processen. Zonder Govern blijven de andere functies losse activiteiten zonder eigenaar.

De positie van dit model: zonder besluitrecht is elke andere afspraak een advies. Begin daarom bij de vraag wie beslist, niet bij een lijst met regels. En faciliteer vΓ³Γ³r je verbiedt. Een verbod zonder goed alternatief verplaatst het gebruik naar plekken waar je het niet meer ziet.

Daarnaast: governance die je niet kunt aantonen, is een voornemen. Elke afspraak heeft een bewijsregel nodig die laat zien dat ze werkt. Dat is ook wat deze capability meetbaar maakt.

Wat je nodig hebt

EΓ©n orgaan dat kaders zet, het AI-register beheert en escalaties afhandelt, meestal een AI Council met IT, security, legal/privacy, HR en business. Bij een kleine start volstaan een benoemde eigenaar en een AI Champion. Het register (blok O4) volgt direct daarna: wat niet in het register staat, heeft geen eigenaar.

Hoe je het meet

Een autonomieplaatsing op papier zegt niets. Kijk ook naar het afkeurpercentage van menselijke beoordelaars: ligt dat rond nul, dan wordt er eerder gestempeld dan getoetst. Toezicht dat nooit ingrijpt, bestaat alleen op papier.

Instrumenten om in te groeien

Autonomie volgt omkeerbaarheid

Plaats elke handeling, niet het systeem als geheel. Gevolg betekent hier: financieel, juridisch, reputatie of persoonlijk.

  • Omkeerbaar, laag gevolg β€” handelt zelf. Een mens kijkt achteraf, steekproefsgewijs.
  • Omkeerbaar, hoog gevolg β€” handelt binnen drempels. Een mens monitort; een drempel leidt tot escalatie.
  • Onomkeerbaar, laag gevolg β€” bereidt voor. Een mens keurt goed; bundelgoedkeuring mag.
  • Onomkeerbaar, hoog gevolg β€” adviseert. Een mens beslist, per geval.

Dezelfde regel geldt voor de manier van werken: hoe omkeerbaarder je wijzigingen, hoe meer autonomie verantwoord is. Daarom hangt deze capability samen met Engineeringstijl: snelle feedback.

Drie lagen, drie eigenaren

  • Organisatie β€” wat overal geldt: besluitrechten, gebruiksregeling, dataclassificatie, register, security en kostenkader. Eigenaar: AI Council, jaarlijks.
  • Toepassing β€” wat dit ene systeem mag: eigenaar, autonomieplaatsing, toezicht, identiteit, audit trail en een go/no-go naar productie. Eigenaar: de systeem-eigenaar, één naam en geen team.
  • Team β€” hoe wij werken: standaardroute voor tooling, autonomiegrens, review-protocol en eigenaarschap bij incidenten. Eigenaar: de lead engineer, per kwartaal.

Organisatiekaders als dataclassificatie gelden ongewijzigd voor elk team; anders worden ze per team opnieuw uitgevonden. Teams kiezen zelf hoe ze binnen die kaders werken. Alle blokken staan uitgewerkt in het AI Governance Canvas, met per blok eigenaar, ritme en bewijsregel.

Wie zit waar

Gecentraliseerd. EΓ©n team beslist en bouwt. Snel te starten, maar een bottleneck zodra teams zelf willen.

Federatief. Domeinen beslissen zelf binnen minimale kaders. Dicht op het werk, maar elk domein een eigen register en eigen regels.

Hub-and-spoke. De hub zet kaders en beheert register en platform; AI Champions in de teams voeren uit en geven terug wat ze leren. Schaalt mee, maar staat of valt met spokes die mandaat en tijd hebben.

Welk orgaan wanneer? Een AI Council zodra meer dan één afdeling AI inzet. Een hub met eigen capaciteit zodra drie of meer teams op L3 of hoger werken; vanaf dan ontstaat er een netwerkeffect. Een Chief AI Officer pas als AI de kern van het bedrijfsmodel raakt; daarvóór volstaat AI in de portefeuille van de CTO of CIO. Wie welk besluit neemt, leg je vast in de RACI van het AI Governance Canvas.

Van pilot naar productie is een besluit

Een agent of AI-product gaat pas zelfstandig draaien na een expliciet go-besluit, met vastgelegde criteria: de toepassing is beschreven, getest op meer dan de taakuitkomst, toezicht en noodstop zijn geoefend, juridische en security-toets zijn afgerond, en de uitrol is gefaseerd. Het besluit staat met datum in het besluitenlog. Een go/no-go is geen datum in de planning.

Als teamdoelen botsen

De reflex is β€žwie beslist er?”, maar die vraag komt als laatste. Wie daar meteen naartoe springt, slaat drie stappen over en ziet het probleem bij het volgende geschil terugkomen.

  1. Bepaal de aard van de tegenstelling. Bij een conflict sluiten de doelen elkaar blijvend uit. Bij divergentie gaan ze meestal samen en botsen ze alleen in randgevallen. Schadeafhandeling stuurt op snelheid, fraudepreventie op grondigheid, maar op de meeste dossiers werken die doelen samen: divergentie, geen conflict.
  2. Zoek een oplossing waarin beide doelen overeind blijven. Volgens het WinWin-model van Boehm formuleert elk team zijn winvoorwaarden, benoemt het precieze geschilpunt en weegt de opties.
  3. Leg de relatie tussen de teams vast. Met de context mapping van Evans: Partnership (gedeelde KPI en gedeeld eigenaarschap) of Customer/Supplier (het ene team stelt de norm voor het andere). Die relatie bepaalt ook toekomstige besluiten.
  4. Wijs pas dan beslisrollen toe, bijvoorbeeld met RAPID (Bain; de rol Agree heeft vetorecht) of DACI (Atlassian; Contributors hebben inbreng maar geen veto).

Zie ook Outcome-sturing & systeemdenken.

Lees en luister verder

Wat een agent kΓ‘n, zegt niets over wat hij mag. Dat bepaal jij, per handeling, en je laat zien dat het werkt.