AI-governance krijgt een Basel III-moment

AI-governance is nu vooral een papieren tijger. Beleidsdocumenten, ethische richtlijnen, impact assessments. Maar wat als je AI-risico’s net zo hard kunt meten als een bank zijn kapitaalbuffers? Precies dat stelt een nieuw paper voor: een control plane voor AI, geïnspireerd op Basel III.

Ik sprak laatst een CISO van een grote zorgverzekeraar. Hij vertelde me: "We hebben tientallen AI-modellen draaien, maar ik heb geen dashboard dat me vertelt of er eentje op ontploffen staat." Dat gevoel herken ik. En het paper dat ik vandaag bespreek, biedt een antwoord.

Geen beleid, maar een technische laag

Het paper heet AGL-1: Enterprise AI Governance Layer as a Control Plane (arXiv:2607.03516) en introduceert een Macroprudential Early Warning System (MEWRS) voor AI. Het idee: definieer kwantitatieve metrics die continu de gezondheid van je AI-systemen meten, net zoals Basel III dat doet voor banken.

Basel III verplicht banken om kapitaalbuffers aan te houden, liquiditeitsratio’s te monitoren en stresstests uit te voeren. Het doel is systeemrisico’s vroegtijdig signaleren en automatisch bijsturen. AGL-1 vertaalt die macroprudentiële logica naar frontier AI.

Wat hier interessant is: het paper stopt niet bij een conceptueel raamwerk. Het definieert drie concrete buffermetrics die je in een control plane kunt implementeren.

Drie metrics die AI-risico meetbaar maken

De eerste is Effective Compute-at-Risk. Die meet hoeveel rekenkracht een aanvaller nodig heeft om het model te misleiden of te breken. Hoe lager die drempel, hoe kwetsbaarder het systeem. Een waarde onder de 0,5 betekent dat een gemotiveerde tegenstander met een paar duizend euro aan cloud-credits het model kan compromitteren.

De tweede is Cumulative Red-Team Hours. Dit telt het totale aantal uren dat onafhankelijke experts hebben besteed aan het actief testen van het model. Geen eenmalige pentest, maar een doorlopende metriek. Zakt het aantal onder een vooraf bepaalde drempel, dan triggert het systeem een waarschuwing: tijd voor een nieuwe red-team ronde.

De derde is de Alignment Robustness Score. Die kwantificeert hoe goed het model zich houdt aan zijn oorspronkelijke doelstellingen onder verschillende omstandigheden. Denk aan distributieverschuivingen, adversarial inputs of gewoon verouderde trainingsdata. Een score onder de 0,8 betekent dat het model onvoldoende robuust is.

Samen vormen deze metrics een early-warning systeem. Geen vaag gevoel van "dit voelt niet goed", maar harde cijfers die je kunt monitoren, rapporteren en automatiseren.

Hoe ziet dat er in de praktijk uit?

Stel je een API-call voor die je control plane uitleest:

GET /governance/status?model=fraud-detect-v2

De response:

{
  "model": "fraud-detect-v2",
  "effective_compute_at_risk": 0.3,
  "cumulative_red_team_hours": 85,
  "alignment_robustness_score": 0.92,
  "status": "healthy"
}

Zakt de alignment robustness score onder de 0,8, dan kan de control plane automatisch een rollback triggeren naar de vorige modelversie. Overschrijdt de compute-at-risk een drempel, dan blokkeert het systeem nieuwe inferenties totdat er een hertraining heeft plaatsgevonden.

Dit is geen sciencefiction. De bouwstenen bestaan al: modelregistries, monitoringtools, CI/CD-pipelines voor ML. AGL-1 voegt daar een governancelaag aan toe die niet alleen rapporteert, maar ook ingrijpt.

Waarom dit nu relevant is voor Nederland

Voor Nederlandse publieke organisaties is dit geen ver-van-mijn-bed-show. De AI Act vereist risicomanagement voor hoog-risico AI-systemen. NIS2 verplicht essentiële diensten om risico’s te beheersen en te rapporteren. BIO2 schrijft een Information Security Management System voor waarin AI-risico’s expliciet moeten worden meegenomen. NORA vraagt om transparantie en uitlegbaarheid van algoritmes.

Een control plane met harde metrics maakt compliance aantoonbaar. Je kunt een auditor niet alleen je beleidsdocumenten laten zien, maar ook een real-time dashboard met de actuele risico-status.