Agentic AI: 88% mist governance - en dat is een architectuurprobleem

Agentic AI verandert de spelregels voor governance. Systemen die continu hertrainen, zelf beslissingen nemen en hun gedrag aanpassen, passen niet in de oude hokjes. Toch denken de meeste organisaties nog in termen van statische modellen.

Een nieuw paper uit de financiële sector laat zien hoe groot de kloof is: 88% van de finance-professionals rapporteert geen operationeel governance-framework voor agentic AI. Van 75 grote Amerikaanse vermogensbeheerders heeft slechts 24 een formeel governance-beleid. ¹

Dat is geen verrassing. Wat wel opvalt: de auteurs stellen dat het gap architecturaal is, niet cultureel. Governance voor deterministische systemen faalt bij continu hertrainende agenten. En dat raakt ook de Nederlandse publieke sector.

Waarom deterministische governance niet werkt

Traditionele AI-governance draait om vaste modellen. Je valideert een model, je monitort de output, je retraint volgens een schema. Alles is voorspelbaar.

Agentic AI werkt anders. Een agent leert tijdens gebruik, past zijn strategie aan op basis van nieuwe data, en kan zelfstandig acties uitvoeren. Denk aan een chatbot die automatisch beslissingen neemt over uitkeringen, of een systeem dat dynamisch risicoclassificaties bijwerkt.

Zonder drift-detectie weet je niet of het model na een hertraining nog binnen dezelfde grenzen opereert. Een simpele KL-divergentie check op de outputdistributie kan dit signaleren, maar de meeste organisaties hebben die check niet eens ingebouwd.

Het paper noemt dit een architecturaal probleem: de governance-laag moet mee-evolueren met het model, niet eenmalig worden opgesteld.

Het vier-laags framework: computeerbare drift-detectie

De oplossing die het paper voorstelt: een vier-laags framework met computeerbare drift-detectie. De lagen:

1. Data-laag, monitoring van inputdistributies, feature-drift, concept-drift.
2. Model-laag, output-monitoring, confidence-scores, adversarial checks.
3. Agent-laag, actie-logging, reward-shaping, policy-drift.
4. Governance-laag, beleidsregels, escalatie, audit-trails.

Elke laag heeft eigen drift-detectie-algoritmes. Bijvoorbeeld: voor de data-laag gebruik je een Kolmogorov-Smirnov test op rolling windows. Voor de model-laag een PSI (Population Stability Index). Voor de agent-laag een reward-trend analyse.

Het cruciale punt: deze checks moeten computeerbaar zijn, dat wil zeggen, ze moeten automatisch kunnen draaien zonder menselijke interpretatie. Alleen dan kun je opschalen naar honderden agenten.

Wat dit betekent voor de Nederlandse publieke sector

De financiële sector loopt voorop met agentic AI, maar de overheid en zorg volgen snel. Denk aan:

• UWV, agentic systemen die automatisch beslissen over WW-uitkeringen op basis van veranderende regels.
• Belastingdienst, chatbots die belastingaangiften controleren en bij afwijkingen zelf actie ondernemen.
• Zorgverzekeraars, systemen die declaraties beoordelen en fraude detecteren, continu lerend.

De AI Act classificeert veel van deze toepassingen als hoog-risico. Artikel 9 eist een risicomanagementsysteem. Maar de AI Act is geschreven voor statische modellen. Agentic AI valt vaak buiten de scope omdat het continu leert, een blinde vlek.

NIS2 en BIO2 versterken dit. NIS2 vereist incidentdetectie en -respons. Als een agentic systeem drift vertoont en onbedoeld beslissingen neemt, is dat een incident. Zonder drift-detectie zie je het niet.

Praktijkvoorbeeld: drift-detectie in een command

Stel je hebt een agentic model dat uitkeringsaanvragen classificeert. Je wilt weten of de outputdistributie verandert na een hertraining. Een simpele check in Python:

from scipy.stats import ks_2samp
import numpy as np

# oude output distributie (voor hertraining)
old_scores = np.load('output_before_retrain.npy')
# nieuwe output distributie (na hertraining)
new_scores = np.load('output_after_retrain.npy')

stat, p_value = ks_2samp(old_scores, new_scores)
if p_value < 0.05:
    print("Drift gedetecteerd, escaleren naar governance-laag")
else:
    print("Geen significante drift")

Dit is een voorbeeld van computeerbare drift-detectie op de model-laag. In de praktijk wil je dit automatiseren in een CI/CD-pijplijn voor AI-modellen.

Waarom 88% geen framework heeft

Het paper geeft een verklaring: de meeste organisaties hebben governance-beleid voor statische AI, maar dat beleid is niet ontworpen voor agenten. Het is geen kwestie van onwil, maar van architectuur.

Ik zie dit patroon terug in Nederlandse overheidsorganisaties. Men heeft AI-registers, ethische toetsingskaders, en soms zelfs model-monitoring. Maar die zijn gebouwd voor eenmalig getrainde modellen. Zodra een model continu hertraint, vallen alle checks weg.

De oplossing is niet een extra beleidsdocument, maar een technische governance-laag die mee-evolueert. Het vier-laags framework uit het paper biedt een concrete blauwdruk.

Wat je nu kunt doen

Check of jouw AI-systemen driftgevoelig zijn. Gebruik de AI Act Self-Check, 5 minuten, direct inzicht in risicoclassificatie.

Voor wie dieper wil: het paper bevat een volledige implementatie van het vier-laags framework in Python, inclusief drift-detectie-algoritmes. ¹

De les is helder: governance voor agentic AI is geen HR-vraagstuk, maar een architectuurvraagstuk. En wie nu niet begint met computeerbare drift-detectie, loopt straks achter de feiten aan.

Footnotes

1. arXiv:2608.02311, Abstract | PDF ↩ ↩²