Artikel 9 AI Act: risicomanagement dat verder gaat dan techniek

Risicomanagement voor AI was altijd een nice-to-have. Met de AI Act is het een harde eis. Artikel 9 verplicht high-risk systemen tot een continu risicomanagementsysteem. Geen eenmalige exercitie, maar een levend proces dat je moet inrichten, documenteren en onderhouden.

Laatst werkte ik met een Nederlandse zorginstelling die een AI-systeem voor triage wilde inzetten. De technische risico's hadden ze aardig in kaart: modeldrift, foutpercentages, beschikbaarheid. Maar de impact op patiëntenrechten? Daar was nog geen analyse van. Precies dat gat dicht de AI Act. En dat is waar de meeste organisaties nu tegenaan lopen.

Wat artikel 9 echt eist

Artikel 9 van de AI Act beschrijft een risicomanagementsysteem dat de hele levenscyclus van een high-risk AI-systeem omspant. Het moet risico's identificeren, analyseren, evalueren en mitigeren. En dat continu, niet alleen bij oplevering. De eisen zijn niet vrijblijvend: je moet aantonen dat resterende risico's aanvaardbaar zijn en dat je maatregelen hebt genomen om ze te beheersen.

De scope is breder dan de meeste bestaande risicomanagementmethoden. Waar ISO 27005 of NIST SP 800-30 zich richten op informatiebeveiliging, kijkt de AI Act naar gezondheid, veiligheid én grondrechten. Dat betekent dat je risico's als discriminatie, uitsluiting of aantasting van privacy expliciet moet meenemen.

Het arXiv-overzicht: methoden onder de loep

Een recent overzicht op arXiv (2607.02197) zet de bestaande risicomanagementmethoden op een rij en toetst ze aan de eisen van de AI Act. Wat opvalt: de meeste schieten tekort op het gebied van grondrechten en continu monitoren. Methoden als FMEA of HAZOP komen uit de industriële veiligheid en missen de sociale dimensie. ISO 23894 biedt een AI-specifiek raamwerk, maar blijft vaak steken in theorie.

Het overzicht laat zien dat je voor de AI Act een hybride aanpak nodig hebt. Technische risicoanalyse combineer je met een mensenrechtenimpactassessment (HRIA) en een ethische toets. Alleen dan dek je de volledige scope van artikel 9.

Risico-identificatie: verder dan alleen techniek

Bij die zorginstelling gebruikten we een risicomatrix met de dimensies 'ernst' en 'waarschijnlijkheid'. Maar we voegden een derde dimensie toe: 'impact op grondrechten'. Voor het triage-algoritme betekende dat: niet alleen kijken naar foutpercentages, maar ook naar bias in de data die kan leiden tot discriminatie van bepaalde patiëntgroepen.

Een concrete aanpak: voer een bias-audit uit met statistische tests. Bijvoorbeeld een chi-kwadraattoets op demografische subgroepen om te checken of de voorspellingen significant afwijken. Documenteer de resultaten in je risicoregister. Dat is geen overbodige luxe, maar een harde eis uit artikel 9, lid 2.

Van risicomatrix naar mitigatieplan

Risico's identificeren is stap één. Daarna moet je ze evalueren en mitigeren. De AI Act eist dat je aantoont dat resterende risico's aanvaardbaar zijn. Dat betekent: een risicomatrix met heldere drempelwaarden. Bijvoorbeeld: een risico met hoge ernst en hoge waarschijnlijkheid is onaanvaardbaar, tenzij je aanvullende maatregelen neemt.

Voor het triage-algoritme kozen we voor een mens-in-de-lus als mitigatie. Elke AI-beslissing wordt gevalideerd door een arts. Dat verlaagt het risico op fouten en discriminatie. Documenteer deze maatregel in je risicomanagementplan, inclusief de verantwoordelijkheden en de frequentie van monitoring.

Nederlandse context: BIO2, AVG en NORA

Voor Nederlandse overheidsorganisaties komt de AI Act bovenop bestaande kaders. BIO2 eist al een risicoanalyse voor informatiebeveiliging. De AI Act voegt daar risico's voor gezondheid, veiligheid en grondrechten aan toe. In de praktijk kun je de BIO2-risicoanalyse uitbreiden met AI-specifieke dreigingen: data poisoning, model drift, adversarial attacks.

NORA-principes zoals transparantie en verantwoording krijgen een concrete invulling via de documentatie-eisen van de AI Act. Je moet niet alleen aantonen dat je risico's behèrtigd hebt, maar ook hoe je dat doet. Dat vraagt om heldere procedures en traceerbare beslissingen.