← Terug

Augmented Organisation v1.2.6

🏗️ EU AI Act — Niveau 2: Provider verplichtingen  ·  Voor engineers en architecten die AI-systemen bouwen
Slide 1 van 14  ·  Context

Gebruik de pijltoetsen ← → of de knoppen onderaan om door de slides te navigeren.

Waarom provider-verplichtingen?

Als je AI-systemen bouwt, ben je niet alleen gebruiker van AI — je bent ook verantwoordelijk voor wat je bouwt en hoe het mensen raakt. De EU AI Act legt de zwaarste verplichtingen bij de provider: degene die het systeem ontwikkelt en op de markt brengt of in gebruik neemt.

🛠️
Deployer (licht)
Je gebruikt een bestaand AI-systeem als werktool. Geletterdheid ondersteunen en gebruiken waarvoor het bedoeld is. De provider draagt de zware last.
Niveau 1 — al behandeld
🏭
Provider (zwaar)
Je bouwt een AI-systeem en brengt het op de markt of neemt het onder eigen naam in gebruik. Bij hoog risico: documentatie, conformiteit, registratie, monitoring — het volle pakket.
Niveau 2 — dit is jouw track
⚠️
De kritieke grens
Je begint als deployer — maar je eigen naam erop, een substantiële wijziging of een hoog-risicodoel maakt je provider. Dit is de grens die engineers het vaakst missen.
Art. 25 — slide 3
⚠ Art. 99 — Sancties bij niet-naleving Tot €35 miljoen of 7% van de wereldwijde jaaromzet voor verboden AI (Art. 5). Tot €15 miljoen of 3% voor schendingen van provider-verplichtingen (bijv. ontbrekende conformiteitsbeoordeling of documentatie). Tot €7,5 miljoen of 1,5% voor het verstrekken van onjuiste informatie aan toezichthouders. De boetes gelden per overtreding — niet als totaalplafond. Voor mkb en, sinds de Omnibus, kleine midcaps (minder dan 750 medewerkers) geldt telkens het laagste van beide bedragen.
"Je bent niet meer alleen gebruiker van AI als je AI bouwt die beslissingen neemt die mensen raken. Op dat moment word je een van de meest gereguleerde rollen in de wet."
Slide 2 van 14  ·  Definitie

Wie is een provider? (Art. 3)

Een provider is "een natuurlijke of rechtspersoon die een AI-systeem ontwikkelt of laat ontwikkelen en het op de markt brengt of in gebruik neemt onder eigen naam of merk." Drie concrete scenario's:

✅
Provider
Je bouwt een SaaS-tool voor klanten die AI-beslissingen bevat — ook als het intern een Azure OpenAI-call is. Jij bent provider, Azure is jouw leverancier.
Op de markt brengen
✅
Provider
Je traint intern een model dat beslissingen neemt over medewerkers (bijv. performancebeoordeling). Intern gebruik met impact op mensen = in gebruik nemen.
In gebruik nemen
❌
Geen provider
Je gebruikt ChatGPT of Copilot zoals de leverancier het aanbiedt, voor je eigen werk. Je bent deployer — de provider is OpenAI / Microsoft. Bouw je er een eigen applicatie omheen die je onder eigen naam inzet? Dan ben je provider van die applicatie.
Deployer, niet provider
Speciale categorie: GPAI-providers (Art. 51-56) Als je een foundation model traint of aanbiedt (niet alleen inzet), val je onder een apart GPAI-regime (Art. 53–55). Dit behandelen we in slide 13. Voor de meeste engineers gaat het om gewone AI-systemen — de slides daartussen zijn voor jou.
"De definitie draait om twee vragen: bouw jij het, en zet je het onder eigen naam in — op de markt of intern? Twee keer ja = provider."
Slide 3 van 14  ·  Art. 25

Van deployer naar provider (Art. 25)

Dit is het onderscheid dat engineers het vaakst missen. Art. 25 noemt drie triggers waardoor je bij een hoog-risicosysteem onbedoeld provider wordt, met alle verplichtingen van dien.

1
Eigen naam of merk — je zet je naam of merk op een hoog-risicosysteem dat al op de markt is, ook als de engine van een derde is.
2
Substantiële wijziging — je wijzigt een hoog-risicosysteem ingrijpend (bijvoorbeeld hertrainen of de werking aanpassen) en het blijft hoog risico.
3
Doel wijzigen naar hoog risico — je zet een systeem dat géén hoog risico is — ook een GPAI-systeem als ChatGPT — in voor een Annex III-doel, zoals sollicitanten rangschikken.
+
Los daarvan: het model zelf — fine-tune je een GPAI-model ingrijpend (richtlijn van het AI Office: meer dan een derde van de oorspronkelijke trainingscompute), dan word je ook aanbieder van dat gewijzigde model.
Beslisboom
Zet ik er mijn naam of merk op?
  ├─ Ja   → provider
  └─ Nee → Wijzig ik een hoog-risicosysteem
          substantieel (hertrainen, werking)?
          ├─ Ja   → provider
          └─ Nee → Zet ik een gewoon systeem in
                  voor een Annex III-doel?
                  ├─ Ja   → provider
                  └─ Nee → je bent deployer ✓
Praktijkvoorbeeld
Je gebruikt Azure OpenAI en voegt een RAG-laag toe op jouw klantendata. De uitkomst rangschikt sollicitanten automatisch. De Azure-call is deployer. De HR-tool die je bouwt op die call? Daarvan ben jij provider — want jij kiest het doel, en werving staat in Annex III (Art. 25 lid 1c).
"De grens is niet technisch — het is functioneel. Zodra je de use case bepaalt, ben jij verantwoordelijk."
Slide 4 van 14  ·  Classificatie

Risicoklassen — provider-perspectief

De risicoklasse van jouw systeem bepaalt hoe zwaar jouw provider-verplichtingen zijn. High Risk betekent het volle pakket: alle slides hierna gelden. Verboden is simpel: bouw het niet. De classificatie is vastgelegd in officiële bijlagen (Annexen) van de wet — Annex III bevat de volledige lijst van high-risk toepassingen. Het classificatieprincipe: een systeem is high-risk als het significante invloed heeft op grondrechten of levenskansen van mensen — niet vanwege de technologie zelf.

🚫 VERBODEN
Mag niet gebouwd worden, ongeacht de use case of het businessmodel.
Schadelijke manipulatie of misleiding · uitbuiten van kwetsbaarheid · sociale scoring · criminaliteit voorspellen op basis van alleen profilering · ongericht gezichtsbeelden scrapen · emotieherkenning op werk en in onderwijs · biometrische categorisering naar gevoelige kenmerken · real-time biometrische identificatie door politie (smalle uitzonderingen) · niet-consensuele intieme beelden of kindermisbruikmateriaal genereren (vanaf 2 dec. 2026)
⚠ HIGH RISK
Alle provider-verplichtingen gelden. Art. 9 t/m 15, Art. 17, Art. 43, Art. 49, Art. 72–73. Slides 5 t/m 12 zijn voor jou. Beoordeel je een Annex III-systeem als niet-hoog-risico (Art. 6 lid 3), documenteer dat en registreer het toch.
Biometrie · kritieke infrastructuur · onderwijs & examinering · werk: werving, selectie, beoordeling · essentiële diensten (krediet, verzekering, uitkeringen, spoedtriage) · rechtshandhaving · migratie & asiel · rechtspraak & democratische processen — plus AI in gereguleerde producten zoals medische hulpmiddelen (Annex I, vanaf 2 aug. 2028)
ℹ LIMITED RISK
Transparantieplicht (Art. 50) als provider: ontwerp het systeem zo dat mensen zien dat ze met AI praten, en markeer synthetische output machineleesbaar. Geldt ook náást High Risk.
Chatbots · generatieve AI · deepfake-tools · virtuele assistenten
✓ MINIMAL RISK
Geen wettelijke provider-verplichtingen. Vrijwillig: Code of Practice als signaal van verantwoord bouwen.
Code completion · spamfilter · aanbevelingssystemen · vergadertranscriptie
"Als jouw systeem in Annex III staat, zijn de slides hierna geen optie — het zijn verplichtingen."
Slide 5 van 14  ·  Art. 9

Art. 9: Risicomanagementsysteem

Het risicomanagementsysteem (RMS) is de ruggengraat van jouw compliance. Het is niet éénmalig — het is een doorlopende lifecycle-verplichting die begint vóór marktintroductie en loopt tot het systeem buiten gebruik is.

Vier verplichte stappen:

1
Identificeer alle bekende en voorzienbare risico's voor gezondheid, veiligheid en grondrechten.
2
Schat de waarschijnlijkheid en ernst van schade in — per scenario en per gebruikersgroep.
3
Implementeer technische en organisatorische maatregelen die de risico's reduceren.
4
Test het residueel risico ná de maatregelen — en documenteer de uitkomst.
Timing & koppeling
Vóór marktintroductie
Het RMS moet gereed zijn voordat het systeem live gaat. Niet als backlog-item na livegang — als go/no-go-eis.
Doorlopend bijgehouden
Bij elke significante update, wijziging in use case of nieuw incidentpatroon herziet het RMS. Documenteer elke iteratie.
Koppeling met Art. 17 (QMS)
Het RMS is onderdeel van het Quality Management System. Art. 17 is het overkoepelend systeem dat het RMS verankert in de organisatie. Zie slide 9.
"Een RMS dat nooit bijgewerkt wordt, voldoet niet — zelfs als het er goed uitzag bij livegang."
Slide 6 van 14  ·  Art. 10

Art. 10: Datakwaliteit & bias

Als provider ben je niet alleen verplicht bias te signaleren — je moet het aantoonbaar aanpakken vóór livegang. Art. 10 stelt kwalitatieve eisen aan trainings-, validatie- en testdata van high-risk systemen.

1
Data moet representatief zijn voor alle situaties en populaties waarvoor het systeem ingezet wordt — inclusief ondervertegenwoordigde groepen.
2
Bekende bias moet gedocumenteerd en gemitigeerd zijn — vóór livegang, niet erna. De mitigatie-aanpak maakt deel uit van de technische documentatie.
3
Data governance is doorlopend: ook na livegang, bij elke update van model of dataset, opnieuw beoordelen en documenteren.
Verschil Niveau 1 vs. Niveau 2
Niveau 1 — deployer
Je signaleert bias bij de compliance-verantwoordelijke. Dat is voldoende. De provider van het systeem is verantwoordelijk voor de fix.
Niveau 2 — provider (jij)
Jij bent verantwoordelijk voor de data zelf. Bias-analyse, mitigatie-maatregelen en data-provenance zijn verplichte onderdelen van jouw technische documentatie (Art. 11).
Conformiteitseis
Bias-mitigatie is geen best practice — het is een conformiteitsvereiste. Zonder gedocumenteerde mitigatie slaagt het systeem de conformiteitsbeoordeling niet.
🔗 GDPR/AVG-koppeling
Trainingsdata met persoonsgegevens valt óók onder de AVG: je hebt een rechtmatige grondslag nodig (Art. 6 AVG), dataminimalisatie is verplicht en betrokkenen hebben inzage- en verwijderingsrechten. Art. 10 EU AI Act en de AVG zijn complementair — beide gelden gelijktijdig. Betrek je DPA of privacy officer bij de datagovernance-stap.
Slide 7 van 14  ·  Art. 11 & 13

Art. 11 & 13: Documentatie & transparantie

Twee verplichtingen die direct aan elkaar gekoppeld zijn: technische documentatie voor de toezichthouder (Art. 11) en gebruikersdocumentatie voor deployers (Art. 13).

📄 Art. 11: Technische documentatie (Annex IV — officiële template voor vereiste inhoud)
Verplichte inhoud vóór marktintroductie:
Systeembeschrijving, beoogd gebruik en architectuur
Trainingsdata beschrijving incl. herkomst en bias-analyse
Evaluatieresultaten en accuracy-metrics per use case
Risicomanagementsysteem (Art. 9) als bijlage
Human oversight-maatregelen (Art. 14)
⏱ Bewaarplicht (Art. 18): 10 jaar nadat het systeem op de markt is gebracht of in gebruik is genomen
📋 Art. 13: Transparantie naar deployers
Deployers moeten voldoende informatie krijgen om het systeem correct te gebruiken:
Duidelijke instructies voor correct gebruik en mogelijke misbruik-scenario's
Capabilities en beperkingen van het systeem
Prestatiemetrics per doelgroep en use case
Logging-vereisten die jij als provider stelt aan de deployer
✓ Zonder goede Art. 13-informatie kan de deployer zijn eigen plichten (Art. 26) niet nakomen — dat komt dan voor jouw rekening
"Technische documentatie is geen eindproduct — het is een levend document dat je bijwerkt bij elke significante systeemwijziging."
Slide 8 van 14  ·  Art. 14

Art. 14: Menselijk toezicht

Als provider van een high-risk systeem moet menselijk toezicht technisch zijn ingebakken. Niet als procedure of beleid — als architectuureis die de conformiteitsbeoordeling bepaalt.

1
Het systeem moet begrijpelijk zijn voor degene die toezicht houdt — ook als die geen ML-expert is. Explainability als feature.
2
Een mens moet kunnen ingrijpen, corrigeren of stilleggen. De override is verplicht — niet optioneel, niet via een workaround.
3
Het systeem mag automation bias niet induceren: het mag de gebruiker er niet toe brengen blindelings de AI-output te volgen.
4
Bij hoog-impact beslissingen: het systeem vraagt bevestiging of geeft expliciete aanbeveling dat menselijk oordeel vereist is.
Praktisch voor de architectuur
Override als first-class feature
Elk geautomatiseerd beslissingsmoment in jouw systeem heeft een killswitch of escalatiepad. Dit staat in de technische documentatie — het is een conformiteitseis.
Shapiro L4/L5 vereist meer
Hoe autonomer het systeem (hogere Shapiro-niveaus), hoe strenger Art. 14 van toepassing is. Volledige autonomie + high-risk is de zwaarst gereguleerde combinatie.
Deployer faciliteren
Als provider ben je verantwoordelijk dat de deployer Art. 14 kán naleven. Zorg dat jouw systeem toezicht technisch mogelijk maakt — en leg dit vast in Art. 13-documentatie.
Architectuur-patronen
🔴 Killswitch — handmatig stilleggen zonder code-deploy
📊 Confidence threshold — lage zekerheid → escalatie naar mens
🛡️ Guardrails — output-validatie vóór actie, niet erna
📋 Audit log — elk AI-besluit traceerbaar met context en tijdstip
"Menselijk toezicht is geen UX-feature. Bij high-risk is het een wettelijke architectuureis die je systeem moet ondersteunen."
Slide 9 van 14  ·  Art. 15 & 17

Art. 15 & 17: Nauwkeurigheid, robuustheid & QMS

🎯 Art. 15: Accuracy & robustness
High-risk systemen moeten een passend niveau van nauwkeurigheid bereiken — en bestand zijn tegen fouten, storingen en onverwachte invoer.
Gedocumenteerde accuracy-metrics per use case en per subgroep
Gedrag bij out-of-distribution input beschreven en getest
Cyberresilience: systeem is getest op adversarial inputs en aanvallen
Fallback-mechanisme bij verminderde nauwkeurigheid of onzekerheid
⚙️ Art. 17: Quality Management System
Het QMS is het overkoepelend systeem dat alle provider-verplichtingen samenhoudt. Art. 17 noemt dertien aspecten (a–m); samengevat in acht clusters:
1. AI-beleid & strategie
2. Rolverdeling & verantwoordelijkheid
3. Procedures per levenscyclus
4. Data management-procedures
5. Monitoring & feedback-loop
6. Changelog & versiemanagement
7. Incident reporting-systeem
8. Corrigerende maatregelen
Geen apart systeem vereist. Heb je al ISO 9001 of SOC 2? Breid dat uit met de AI-aspecten — de wet verplicht geen losstaand AI-QMS. Mkb en kleine midcaps mogen een vereenvoudigd QMS voeren. De Europese norm EN 18286 werkt Art. 17 uit (goedgekeurd juli 2026, nog niet in het Publicatieblad).
"Het QMS is niet een document — het is het bewijs dat jouw organisatie structureel verantwoord AI bouwt."
Slide 10 van 14  ·  Art. 43

Art. 43: Conformiteitsbeoordeling

Vóór je een high-risk systeem op de markt brengt, moet je aantonen dat het aan alle verplichtingen voldoet. Twee paden, afhankelijk van het soort systeem.

📋
Pad I — Zelfbeoordeling (Annex VI — interne auditprocedure)
Voor Annex III punt 2–8 (alles behalve biometrie): je beoordeelt zelf of het systeem voldoet. Geen externe partij vereist.
✓ Doorloop interne auditchecklist (Annex VI)
✓ Technische documentatie (Art. 11) gereed
✓ EU-verklaring van overeenstemming opstellen
✓ CE-markering aanbrengen (Art. 49)
🔍
Pad II — Third-party assessment (Annex VII — externe Notified Body)
Verplicht voor biometrische systemen (Annex III punt 1) als je geen geharmoniseerde normen volledig toepast. Een Notified Body (EU-aangewezen auditor) voert de beoordeling uit.
⚠ Biometrische identificatie, categorisering, emotieherkenning
⚠ Zonder (volledig) toegepaste geharmoniseerde normen
→ Notified Body zoeken & traject starten
⏱ Tijdrovend en kostbaar — start vroeg
Beslisboom: Is het een biometrisch systeem en pas je de geharmoniseerde normen niet volledig toe? → Annex VII (externe Notified Body). Anders → Annex VI (interne zelfbeoordeling). Valt het onder Annex I (zoals een medisch hulpmiddel)? → de conformiteitsprocedure van die productwetgeving.
🧪 Art. 57-58 — AI Regulatory Sandbox Lidstaten zijn verplicht sandboxes in te richten waar providers high-risk systemen vóór marktintroductie mogen testen onder toezicht van de nationale autoriteit. Wie het sandboxplan te goeder trouw volgt, krijgt begeleiding en geen boetes voor overtredingen binnen dat plan. In Nederland richten de AP en de RDI de sandbox samen in; mkb en kleine midcaps krijgen voorrang. Nuttig als je wil valideren vóór het volledige traject.
Slide 11 van 14  ·  Art. 49

Art. 49: Registratie & CE-markering

Twee formele stappen die moeten zijn afgerond vóór marktintroductie van een high-risk systeem.

1
Registratie in EU AI Database — naam, type, risicoclassificatie, beoogd gebruik, contactpersoon en conformiteitsassessment-resultaat. Verplicht voor alle high-risk providers — en ook voor Annex III-systemen die je zelf als niet-hoog-risico beoordeelt (Art. 6 lid 3, met minder gegevens).
2
CE-markering — alleen na goedgekeurde conformiteitsbeoordeling (Art. 43). De markering is de formele verklaring dat het systeem aan de wet voldoet.
Let op Intern in gebruik nemen telt ook: ook een intern hoog-risicosysteem registreer je. Alleen bepaalde systemen in rechtshandhaving, migratie en kritieke infrastructuur kennen een afwijkende (niet-openbare of nationale) registratie.
Wie doet wat
Provider — jij
Registreert het systeem in de EU AI Database en brengt de CE-markering aan.
Deployer — jouw klant
Ontvangt de EU-verklaring van overeenstemming en Art. 13-documentatie van jou. Is niet verantwoordelijk voor het CE-traject. Uitzondering: is de deployer een overheidsorganisatie, dan registreert die ook het eigen gebruik.
📅
Tijdlijn EU AI Act
Tijdlijn laadt…
"CE-markering is het bewijs dat je het traject hebt doorlopen — niet dat het systeem perfect is."
Slide 12 van 14  ·  Art. 72–73

Art. 72–73: Monitoring & incidenten

De verplichting stopt niet bij livegang. Als provider ben je verplicht jouw high-risk systeem systematisch te monitoren gedurende de gehele levensduur.

1
Houd systematisch incidenten en near-misses bij — inclusief situaties waarbij het systeem onverwacht gedrag vertoonde.
2
Ernstige incidenten meld jij — de provider — bij de markttoezichthouder (Art. 73): uiterlijk 15 dagen na ontdekking, 10 dagen bij overlijden, 2 dagen bij een wijdverbreide inbreuk of ernstige verstoring van kritieke infrastructuur. Ziet de deployer een ernstig incident, dan meldt die het direct aan jou (Art. 26 lid 5).
3
Leg vooraf een post-market-monitoringplan vast als onderdeel van de technische documentatie, en voer het uit. Een vast jaarrapport schrijft de wet niet voor.
Inbouwen in sprint-ritme
🔄
Per sprint
Logging-dashboards bijhouden, incident-log bijwerken, anomalieën in model-output flaggen. Dit is operationeel werk — plan het in.
📊
Per kwartaal
Intern monitoring-rapport opstellen. Bekijk of het systeem nog binnen de originele accuracy-metrics valt. Herzie RMS indien nodig (Art. 9). → Koppel dit aan de Augmented Retrospective (laag 4: welke AI-interactie verraste ons?) als ritme voor het team.
📋
Per jaar
Monitoringplan evalueren en bijstellen. Technische documentatie (Art. 11) bijwerken. Beschikbaar voor de toezichthouder op verzoek.
"Post-market monitoring is geen bureaucratie — het is het mechanisme waardoor je weet of jouw systeem nog doet wat het moet doen."
Slide 13 van 14  ·  GPAI

GPAI Providers (Art. 51–55)

Aparte categorie: je traint of biedt zelf een foundation model aan — een General Purpose AI-model dat voor meerdere use cases ingezet kan worden. Dit valt onder een apart regime naast de gewone provider-verplichtingen.

🤖 Alle GPAI-providers
Technische documentatie van het model, inclusief energieverbruik
Informatie voor aanbieders die het model in hun systeem verwerken
Copyright-beleid voor trainingsdata
Openbare samenvatting van de trainingsdata
Erkende route: de GPAI Code of Practice (juli 2025)
⚡ Systemisch risico (Art. 51)
Drempel: 10²⁵ FLOPs trainingscompute (GPT-4 klasse). Melden bij de Commissie (Art. 52). Extra verplichtingen:
Modelevaluatie inclusief adversarial testing
Systeemrisico's beoordelen en beperken
Ernstige incidenten melden aan het AI Office
Cybersecurity van model en infrastructuur
Voor de meeste engineers: Dit GPAI-regime raakt je niet direct als je met bestaande API's werkt. Maar als je ingrijpend fine-tunet (meer dan een derde van de oorspronkelijke trainingscompute), een eigen model traint, of een model beschikbaar stelt aan anderen — check dan Art. 51–55. Het AI Office handhaaft sinds 2 augustus 2026 en houdt sinds de Omnibus ook exclusief toezicht op AI-systemen die een aanbieder op zijn eigen GPAI-model bouwt.
"Je hoeft 10²⁵ FLOPs niet te kunnen berekenen — je moet weten wanneer dit relevant is voor wat jij bouwt."
Slide 14 van 14  ·  Afsluiting

Je bent klaar voor de provider-bevestiging

Je hebt alle provider-verplichtingen doorlopen: van definitie en risicoklassen tot conformiteitsbeoordeling, CE-markering en post-market monitoring. Nu leg je dat vast.

Slides doorlopen
14
Tijd nodig
~15 min
Slagingsdrempel
13 / 15
Start de provider-bevestiging →

"De EU AI Act vraagt van providers wat goede engineering altijd al vroeg: weet wat je bouwt, test wat het doet, documenteer wat je weet — en corrigeer wanneer het misgaat."