← Terug

Augmented Organisation v1.2.6

⚖️ AI-geletterdheidsintroductie conform Art. 4 EU AI Act  ·  Doorloop alle 14 slides voor je de bevestiging doet
Slide 1 van 14  ·  Context

Gebruik de pijltoetsen ← → of de knoppen onderaan om door de slides te navigeren.

Waarom deze training?

Art. 4 van de EU AI Act verplicht organisaties de ontwikkeling van AI-geletterdheid van medewerkers die AI inzetten of beïnvloeden te ondersteunen — afgestemd op hun rol. Sinds de Digital Omnibus on AI (juli 2026) is dit een inspanningsverplichting, geen gegarandeerd niveau. Vrijblijvend is het daarmee niet.

👥
Alle medewerkers
Weten wat AI is, wat het niet is, en wanneer gebruik niet is toegestaan. Bewustzijn als fundament.
Niveau: bewustzijn
💼
Kenniswerkers & managers
Kunnen AI-output beoordelen, weten wanneer te escaleren en begrijpen hun verantwoordelijkheid als eindgebruiker.
Niveau: beoordeling
⚙️
Engineers & data scientists
Begrijpen bias, explainability en de documentatieplicht per use case. Kennen het verschil tussen deployer en provider.
Niveau: documentatie
"Ondersteunen" is niet hetzelfde als vrijblijvend: er moet iets aantoonbaar gebeuren. Een training-log, een awareness-check of een jaarlijkse verklaring per medewerker blijft de praktische manier om dat te laten zien. Dit is wat je nu aan het opbouwen bent.
Slide 2 van 14  ·  Fundament

Het kernonderscheid

De meeste compliance-frameworks missen dit: de EU AI Act reguleert niet waarmee je bouwt — maar wat je bouwt en voor wie. Twee totaal verschillende situaties vragen om totaal verschillende verplichtingen.

🛠️
A. Voortbrengingsproces
Je gebruikt AI als werktool: Copilot, Claude, ChatGPT. Je bent deployer van een AI-systeem. De zware verplichtingen liggen bij de provider.
→ Art. 4: geletterdheidsplicht
→ Gebruiksvoorwaarden van de leverancier volgen
→ AVG: verwerkersovereenkomst bij persoonsgegevens
🏭
B. Productie-applicaties
Je bouwt of deployt een AI-systeem dat beslissingen neemt die mensen raken. De risicoklasse van het systeem bepaalt de verplichtingen.
→ Risk Finder: welke tier?
→ High Risk: conformiteitsassessment
→ Menselijk toezicht + logging
GPAIGeneral Purpose AI — een AI-model dat breed inzetbaar is, zoals Claude, Copilot of Gemini.
AUPAcceptable Use Policy — interne gedragsregels voor AI-gebruik. Geen eis uit de AI Act, wel de gebruikelijke manier om correct gebruik aantoonbaar te maken.
DPAData Processing Agreement — de verwerkersovereenkomst uit de AVG, nodig zodra de AI-leverancier persoonsgegevens voor jou verwerkt.
"Jij gebruikt Copilot om een HR-tool te bouwen die sollicitanten rangschikt. Copilot gebruiken = Pad A. De HR-tool deployen = Pad B." — het zijn twee aparte verplichtingen.
Slide 3 van 14  ·  Voortbrengingsproces

Jouw rol: deployer

Als je een bestaand AI-systeem (Claude, Copilot, Gemini) inzet voor je werk, ben je deployer — in de Nederlandse wettekst: gebruiksverantwoordelijke. Twee rollen dragen verplichtingen, en jij hebt er één van.

Provider
Ontwikkelt het AI-model of -systeem en biedt het aan (Anthropic, Microsoft, Google). Draagt de zware verplichtingen.
Deployer ← jij
Zet een bestaand AI-systeem in onder eigen verantwoordelijkheid, voor beroepsmatig gebruik. Lichtere maar reële verplichtingen.
Betrokkene
Wie met het systeem te maken krijgt (bijv. klant van een chatbot). Geen plichten, wel rechten.
Drie dingen die voor jou gelden
1. Gebruik het waarvoor het bedoeld is
De provider legt vast waarvoor het systeem bedoeld is. Zet je het in voor een hoog-risicodoel waar het niet voor bedoeld is, dan word je zelf provider van dat systeem (Art. 25) — met alle plichten van dien.
2. Geen verboden toepassingen (Art. 5)
Onder meer sociale scoring, emotieherkenning op het werk en schadelijke manipulatie zijn absoluut verboden — ook intern. (Art. 5 = het artikel met alle absolute verboden; de volledige lijst staat op slide 5)
3. Geletterdheid en afspraken
Art. 4 vraagt dat je organisatie je AI-geletterdheid ondersteunt. Een gebruiksbeleid (AUP) is geen wettelijke eis, maar wel de gebruikelijke manier om dat aantoonbaar te maken. Gaan er persoonsgegevens naar de leverancier, dan vraagt de AVG een verwerkersovereenkomst (DPA).
"De provider draagt de zware verplichtingen. Jij draagt de verantwoordelijkheid voor correct gebruik."
Slide 4 van 14  ·  Data & Privacy

Wat mag er nooit in een prompt?

Hier geldt vooral de AVG/GDPR. Persoonsgegevens in een prompt vragen een grondslag én, als de leverancier ze verwerkt, een verwerkersovereenkomst (DPA). Zonder die afspraken is het een overtreding — ook als je het "alleen even wil testen."

✓ Altijd toegestaan
Openbare API-documentatie
Eigen code zonder klantcontext
Generieke technische vragen
Geanonimiseerde voorbeelden
⚠ Met overleg
Interne architectuurdocumenten
Anonieme testdata (als re-identificatie uitgesloten is)
Bedrijfsstrategische informatie
✗ Nooit zonder DPA
Persoonsgegevens klanten of medewerkers
Credentials of API-sleutels
Medische of financiële klantdata
Klantspecifieke code met identificeerbare context
"Zou je dit op een openbaar forum plaatsen? Zo nee → rood. Dit geldt voor elk team, elke tool, elke situatie."
Slide 5 van 14  ·  Classificatie

De vier risicotiers

De EU AI Act deelt AI-systemen in vier tiers. De classificatie geldt voor het systeem dat je bouwt of deployt — niet voor de tools waarmee je het bouwt. Copilot of Claude gebruiken om een systeem te bouwen heeft geen risicoklasse; het systeem dat je daarmee maakt wél.

🚫 VERBODEN
Absoluut verboden — niet bouwen, niet deployen, niet gebruiken.
Schadelijke manipulatie of misleiding · uitbuiten van kwetsbaarheid · sociale scoring · criminaliteit voorspellen op basis van alleen profilering · ongericht gezichtsbeelden scrapen · emotieherkenning op werk en in onderwijs · biometrische categorisering naar gevoelige kenmerken · real-time biometrische identificatie door politie (smalle uitzonderingen) · niet-consensuele intieme beelden of kindermisbruikmateriaal genereren (vanaf 2 dec. 2026)
⚠ HIGH RISK
Volledige verplichtingen: risicomanagement, data governance, menselijk toezicht, logging, conformiteitsassessment, registratie EU-database.
Biometrie · kritieke infrastructuur · onderwijs & examinering · werk: werving, selectie, beoordeling · essentiële diensten (krediet, verzekering, uitkeringen, spoedtriage) · rechtshandhaving · migratie & asiel · rechtspraak & democratische processen — plus AI in gereguleerde producten zoals medische hulpmiddelen (Annex I)
ℹ LIMITED RISK
Transparantieplicht (Art. 50): mensen moeten weten dat ze met AI te maken hebben, en deepfakes en gepubliceerde AI-tekst over publieke zaken worden gelabeld. Geldt ook náást High Risk.
Chatbots · virtuele assistenten · deepfakes · generatieve AI · emotieherkenning
✓ MINIMAL RISK
Geen specifieke verplichtingen (Art. 4 geldt wel). Vrijwillig: gedragscodes (Art. 95) als signaal van verantwoord gebruik.
Code completion · spamfilter · aanbevelingssystemen · vergadertranscriptie* · zoekrangschikking
Slide 6 van 14  ·  Annex III · High Risk · Toepassingen

Annex III: wanneer is iets High Risk?

De EU AI Act werkt met officiële bijlagen — Annexen — die specifieke lijsten bevatten. Annex III is de lijst met acht domeinen waarin AI-toepassingen als High Risk gelden. Valt jouw systeem daaronder, dan gelden de zware verplichtingen — ongeacht hoe het heet of wie het gebruikt. Alleen een smalle, voorbereidende taak zonder wezenlijke invloed op de uitkomst is uitgezonderd (Art. 6 lid 3), en ook dan registreer je het systeem.

🪪
Biometrie
Identificatie op afstand, categorisering op kenmerken, emotieherkenning (voor zover niet verboden).
🏗️
Kritieke Infrastructuur
Veiligheidscomponenten in energie, water, verkeer en digitale infrastructuur.
🎓
Onderwijs & Examinering
Toelating, beoordeling van leerresultaten, toezicht bij toetsen.
👔
Werk & Werving
Werven, selecteren, beoordelen, promoveren of ontslaan van medewerkers.
💳
Essentiële Diensten
Kredietwaardigheid, levens- en zorgverzekering, uitkeringen, triage van spoedoproepen en spoedpatiënten.
🚓
Rechtshandhaving
Risico-inschattingen, bewijsbeoordeling en profilering door politie en justitie.
🛂
Migratie & Asiel
Beoordeling van asielverzoeken, visumaanvragen en grenscontrole.
⚖️
Rechtspraak & Democratie
Ondersteuning van rechterlijke beslissingen, beïnvloeding van verkiezingen.
Medische hulpmiddelen, machines en speelgoed met AI staan niet in Annex III maar in Annex I (productwetgeving) — met een eigen deadline: 2 augustus 2028.
* Een vergadertranscriptie-tool zelf valt onder Minimal Risk. Wat je vervolgens doet met de inhoud — automatisch besluiten nemen op basis van de transcriptie — kan een andere risicoklasse hebben.
"Een AI-tool die jouw CV rangschikt op 'cultural fit' is High Risk. Dat het intern is en je er zelf blij mee bent, verandert niets aan de classificatie."
Slide 7 van 14  ·  Rollen

Provider vs. deployer

Dit onderscheid bepaalt hoe zwaar jouw verplichtingen zijn. Het draait om één vraag: heb jij het systeem gebouwd en zet je het onder eigen naam in — of gebruik je iets van een ander?

📦
Deployer
Je zet een AI-systeem van een ander in, onder eigen verantwoordelijkheid — intern of via licentie.
→ Juist gebruik garanderen
→ Menselijk toezicht inrichten
→ Gebruikers informeren
Bijv: je gebruikt een ingekochte HR-AI
🏭
Provider
Je ontwikkelt een AI-systeem (ook bovenop andermans model) en brengt het op de markt of neemt het onder eigen naam in gebruik — ook alleen intern.
→ Technische documentatie (High Risk)
→ CE-markering (High Risk)
→ Registratie EU-database (High Risk)
→ Transparantie (Art. 50, elk systeem)
Bijv: je bouwt een HR-AI voor klanten
"Heb jij het systeem gebouwd en zet je het onder eigen naam in — extern of intern? Dan ben je provider. Is het High Risk, dan zijn dat de zwaarste verplichtingen in de wet."
Slide 8 van 14  ·  Art. 50 · Transparantie

Art. 50: Transparantieplicht

Zodra een AI-systeem direct met mensen interacteert, moeten zij weten dat het AI is. Dit is geen aanbeveling maar een harde verplichting, sinds 2 augustus 2026 — voor elk systeem, ongeacht de risicoklasse.

Wanneer geldt Art. 50:

Chatbots en virtuele assistenten
AI-tekst die je publiceert over zaken van algemeen belang
Deepfakes en synthetische media
Elk systeem dat zich als mens kan voordoen
Wat je concreet moet doen
Label zichtbaar in de UI
"Je praat met een AI-assistent" — bij eerste interactie, niet verstopt in de kleine lettertjes.
Geen opt-out mogelijk
De gebruiker mag dit niet kunnen uitzetten. Transparantie is een recht, geen feature.
Deepfakes en gepubliceerde AI-tekst labelen
Deepfakes altijd. Tekst alleen als je die publiceert om het publiek over zaken van algemeen belang te informeren en niemand er redactioneel verantwoordelijkheid voor neemt. Een intern rapport valt daar niet onder.
Valkuil: "Maar ze weten toch wel dat het een bot is?" De wet kent die uitzondering, maar alleen als het voor een redelijk geïnformeerd persoon écht evident is. Twijfel je, meld het dan — de uitzondering is smal.
Slide 9 van 14  ·  Art. 14 · High Risk · Menselijk toezicht

Art. 14: Menselijk toezicht

Bij high-risk AI-systemen moet menselijk toezicht technisch zijn ingebakken. Niet alleen een procedure of beleid — maar een architectuureis.

Drie vereisten (Art. 14):

1
Het systeem moet begrijpelijk zijn voor de toezichthouder — ook als die geen ML-expert is.
2
Een mens moet kunnen ingrijpen, corrigeren of stilleggen — de override-functie is verplicht.
3
Dit moet technisch afdwingbaar zijn — niet alleen staan in een procedure-document.
Wat dit betekent voor engineers
Override in de architectuur
Elk geautomatiseerd beslissingsmoment heeft een killswitch of escalatiepad. Niet als backlog-item — als vereiste voor go-live.
Explainability als feature
Waarom heeft het systeem deze beslissing genomen? De toezichthouder moet dit kunnen lezen — niet als technisch rapport maar als begrijpelijke toelichting.
Koppeling met Shapiro L4+
Hoe autonomer het systeem (hogere Shapiro-niveaus), hoe strenger de Art. 14-eis. Autonomie en toezicht staan in directe spanning — ontwerp erop.
"Menselijk toezicht is geen UX-feature. Bij high-risk is het een wettelijke architectuureis."
Slide 10 van 14  ·  Art. 10 · High Risk · Data & Bias

Art. 10: Datakwaliteit & bias

AI leert van historische data. Als die data vertekend is — door eerdere discriminatie, onjuiste sampling of incomplete representatie — herhaalt het systeem die vertekening op schaal. Dat is geen technische bug: het is een juridisch risico.

Drie eisen (Art. 10):

1
Trainingsdata moet representatief zijn voor alle situaties waarin het systeem ingezet wordt — inclusief ondervertegenwoordigde groepen.
2
Bekende bias moet gedocumenteerd en gemitigeerd zijn — vóór livegang, niet erna.
3
Data governance is een doorlopende verplichting — ook na livegang, bij elke update van het model of de dataset.
Drie voorbeelden uit de praktijk
👥 HR & recruitment
Systeem rankt vrouwen systematisch lager bij gelijke kwalificaties. → Art. 10 schending + Annex III (high risk)
💳 Kredietscoring
Hogere risico-scores voor postcodegebieden met veel migranten. → Art. 10 + AVG/GDPR overtreding
🏥 Medische AI
Systeem adviseert andere behandeling op basis van etniciteit. → High Risk + verplicht conformiteitsassessment
Art. 10 stelt geen drempel qua dataomvang of herkomst. De eis geldt voor alle high-risk systemen — groot én klein.
Slide 11 van 14  ·  Art. 4 · Jouw rol · Signaleren

Jouw rol: signaleren en toezicht houden

Je bent niet verantwoordelijk voor het repareren van bias — maar wel voor het signaleren ervan. Bias herkennen en doorgeven is een basiscompetentie die Art. 4 (geletterdheid) van iedereen vraagt.

Wat doe je als je bias vermoedt?
AI-output lijkt systematisch scheef?
  └─ Gaat het om beslissingen
       over mensen?
           ├─ Nee → bespreek in retro
           └─ Ja   → meld bij compliance
                     └─ High risk?
                           → Risk Finder + Art. 9
Drie dingen die iedereen moet weten
Vertrouw AI niet blindelingsBij beslissingen over mensen is menselijk oordeel altijd vereist — ook als de output er correct uitziet. (Art. 14)
Patroon ≠ toevalEén afwijking is een incident. Een systematisch patroon is een signaal dat meldplichtig is.
Signaleren is genoegJe lost het niet zelf op — de compliance-verantwoordelijke bepaalt of Art. 9 (risicomanagement) in werking treedt.
Slide 12 van 14  ·  Art. 12 · High Risk · Logging

Art. 12: Logging

High-risk AI-systemen moeten automatisch events loggen gedurende hun volledige levensduur. De logging moet minimaal mogelijk maken: de werking reconstrueren én toezicht en audits mogelijk maken. Dit is een harde wettelijke verplichting — zonder vrijstelling op basis van systeemgrootte of aantal gebruikers.

Wat minimaal gelogd moet worden:

De input die het systeem heeft ontvangen
De output of beslissing die het systeem heeft genomen
Tijdstempel en context van elke relevante handeling
Menselijke interventies: overschrijvingen en afwijzingen
Fouten en uitzonderingen die de werking beïnvloeden
Drie doelen van de logging
🔍
Incident-reconstructie
Als er iets misgaat, moet je kunnen reconstrueren wat het systeem op welk moment op basis van welke input heeft besloten.
👁️
Menselijk toezicht mogelijk maken
Art. 14 en Art. 12 zijn verweven: logging is het instrument waarmee toezichthouders terugkijken op wat het systeem deed.
📋
Externe audit
Markttoezichthouders kunnen de logs opvragen. In Nederland zijn dat straks de AP en de RDI als coördinatoren, naast sectorale toezichthouders zoals AFM en DNB. Ze moeten begrijpelijk zijn.
"Als je het niet kunt reconstrueren, is toezicht een illusie."
Slide 13 van 14  ·  Samenvatting

De 6 dingen die elke engineer moet weten

Alles wat je zojuist hebt gezien, terug te brengen tot zes concrete regels voor de dagelijkse praktijk.

1
Als je Claude, Copilot of een ander AI-systeem voor je werk gebruikt: jij bent deployer. Volg het gebruiksbeleid van je organisatie en de voorwaarden van de leverancier. Voor het gereedschap zelf is geen risicobeoordeling nodig.
2
Persoonsdata in een prompt is nooit zomaar toegestaan. Zonder grondslag en verwerkersovereenkomst (DPA — Data Processing Agreement) met de leverancier is het een AVG-overtreding — ook als je het "alleen even wil testen."
3
Bouw je een systeem dat werving, krediet, verzekering, zorgtriage, onderwijs of justitie raakt? Kijk altijd eerst in Annex III (de bijlage met de High Risk-lijst). High Risk betekent: conformiteitsassessment vóórdat het live gaat.
4
Heb je het systeem zelf gebouwd en zet je het onder eigen naam in, extern of intern? Dan ben je provider. Is het High Risk, dan horen daar de zwaarste verplichtingen bij: technische documentatie, CE-markering, registratie EU-database, post-market monitoring.
5
Menselijk toezicht is geen UX-feature — bij high-risk AI is het een wettelijke architectuureis (Art. 14). Logging (Art. 12) is de bijbehorende verplichting: de werking moet over de volledige levensduur reconstrueerbaar zijn, zodat toezicht en audits mogelijk zijn. Geen vrijstelling op basis van systeemgrootte.
6
Trainingsdata voor high-risk systemen moet representatief zijn en bekende bias moet gedocumenteerd en gemitigeerd zijn vóór livegang (Art. 10). Zie je een patroon van scheve AI-output? Signaleer het bij de compliance-verantwoordelijke — dat is jouw taak, niet het zelf oplossen.
Slide 14 van 14  ·  Afsluiting

Je bent klaar voor de bevestiging

Je hebt de volledige introductie doorlopen: het kernonderscheid voortbrengingsproces vs. productie, jouw rol als deployer, data in prompts, de vier risicotiers, Annex III, provider vs. deployer, Art. 50, Art. 14, Art. 10 en Art. 12.

Slides doorlopen
14
Tijd nodig
~10 min
Slagingsdrempel
10 / 12
Start de geletterdheidsbevestiging →
🏗️ Bouw jij AI-systemen?
Doorloop de Niveau 2-track voor provider-verplichtingen: Art. 9, 11, 14, 43, 49 en 72.
Niveau 2 →

"De EU AI Act beschermt geen machines — die beschermt mensen. Engineers die dat begrijpen, bouwen betere systemen."