Welke acties komen eerst?
- Beperk verdere externe output of systeemacties; gebruik een technische stop waar nodig.
- Leg tijdstip, systeemversie, bevoegdheden en eerste melding vast zonder onnodige gegevens te kopiëren.
- Bepaal wie geraakt kan zijn en wat nog onbekend is.
- Laat de juiste eigenaar privacy, veiligheid, contract en andere meldroutes apart beoordelen.
- Communiceer feitelijk; beloof geen uitkomst van onderzoek voordat die is vastgesteld.
Als persoonsgegevens betrokken zijn, gebruik de aparte datalekbeoordeling. Een AI-incident is niet automatisch een AVG-datalek; omgekeerd mag mogelijk dataverlies niet als “slechts modelgedrag” verdwijnen.
Fictief: foutieve garantie ontdekt vóór verzending
Bij test T-03 schrijft de AI vijf jaar garantie waar twee jaar geldt. De medewerker verzendt niets en registreert I-04. Niemand buiten de test is vooralsnog geraakt, maar het team onderzoekt eerdere outputs. De hypothese “verouderde producttekst” is niet bewezen. Extern gebruik blijft geblokkeerd totdat bronselectie is aangepast en de regressietest is uitgevoerd. Dit is een voorbeeld zonder echte klantgegevens.
Hoe leg je besluit en effectcontrole vast?
Houd fout, reikwijdte, directe actie en latere effectcontrole apart. Dit model doet geen automatische meldplichtbeslissing.
Veeg in de tabel opzij of gebruik de pijltjestoetsen voor andere kolommen.
| Onderdeel | Wat leg je vast? | Fictief ingevuld voorbeeld |
|---|---|---|
| Gebeurtenis en ontdekking | Wat gebeurde wanneer? Maak feit en vermoeden apart. | Fictief I-04: testantwoord bevat vijfjarige garantie; ontdekt vóór verzending. |
| Systeem en fase | Welke tool, versie en bevoegdheid waren actief? | Conceptfunctie v0.2, geen klantdata, geen externe actie. |
| Mogelijk bereik | Welke personen, besluiten of systemen zijn geraakt? | Voor deze test niemand extern; eerdere testuitkomsten nog te controleren. |
| Onbekend | Welke feiten zijn nog niet vastgesteld? | Of hetzelfde antwoord in andere tests voorkomt: onbekend. |
| Directe beheersing | Wat is gepauzeerd of teruggedraaid? | Extern gebruik blijft geblokkeerd; testset bevroren. |
| Afzonderlijke routes | Beoordeel privacy, veiligheid, contract of meldplicht op feiten. | Privacydatalek nu niet vastgesteld; opnieuw beoordelen als echte data blijken te zijn gebruikt. |
| Eigenaar en besluit | Wie besluit over onderzoek en herstart? | Serviceleider onderzoekt; geen herstartbesluit. |
| Oorzaak of hypothese | Onderzoek bron, prompt, model en menselijke controle. | Hypothese: verouderde producttekst; nog niet aangetoond. |
| Maatregel en toets | Wat verandert, wat is de hertest, wanneer is het effectief? | Bronselectie aanpassen; regressietest over tien scenario’s nog open. |
AI-incident- en verbeterkaart als bewerkbare CSV
Download zonder e-mailadres. Vul echte gegevens uitsluitend in je eigen beveiligde omgeving in; deze website ontvangt geen antwoorden.
Wanneer is “opgelost” te vroeg?
Een aangepaste prompt of nieuwe instructie toont uitvoering, niet effectiviteit. Vergelijk dezelfde fout en verwante scenario’s na wijziging, documenteer uitkomst en besluit per bevoegdheidsniveau. Voor verbonden agents met acties is bovendien een herstel- en terugdraaipad nodig. MSRC beschrijft waarom promptinjectie en bevoegdheden samen moeten worden beoordeeld.
Verder lezen
Bronnen en broncontrole
Openbare primaire bronnen gecontroleerd op . Het Noord Service-voorbeeld en de hulpmiddelen zijn fictieve, praktische DCA-uitwerkingen.
- AVG, Verordening (EU) 2016/679 — Art. 5, 6, 9, 22, 25, 28, 32 en 35: rechtmatigheid, minimalisatie, besluiten over personen, ontwerp, verwerkers, beveiliging en DPIA waar toepasselijk.
- Verordening (EU) 2024/1689 (AI-verordening), geconsolideerde tekst — Art. 3 (rollen), 4 (geletterdheid), 5 (verboden), 6 en bijlage III (hoog risico), 25 (rolwijziging), 50 (transparantie), 113 (toepassing). Per gebruik en rol toetsen.
- Microsoft Security Response Center: indirect prompt injection — 29 juli 2025; technische primaire toelichting op onbetrouwbare inhoud als instructiebron, ongewenste acties en datalekken; beveiligingspraktijk, geen wet.
- UK NCSC: managing the cyber risk of agentic AI — 20 augustus 2026; guidance over rechten, grenzen, monitoring en incidentrespons bij agents. Britse guidance, geen universeel wettelijk voorschrift.
- Raad van Discipline 27 juli 2026, ECLI:NL:TADRSHE:2026:93 — Dekenbezwaar; r.o. 5.3–5.6, 5.11–5.12; foutieve AI-verwijzingen en andere tekortkomingen, berisping. Geheimhoudingsschending niet bewezen; advocatentuchtrecht is geen algemene MKB-regel.