CASE voor overheden: vier lagen waarop agentic AI-governance faalt

Overheden deployen autonome AI-agents sneller dan ze ze kunnen besturen. En de heersende aanpak rekt één discipline, meestal DevSecOps, gebouwd voor deterministische automatisering, op tot elke schaal van agency. Dat werkt niet. Een nieuw arXiv-paper, het CASE-framework, stelt dat agentic AI-governance vier problemen is, niet één, elk met een eigen volwassen bestuurswetenschap.

De kernclaim is scherp: single-agent assurance is niet compositioneel. Je kunt niet tien individueel veilige agents samenvoegen tot een veilig collectief. Emergentie breekt de optelsom. En dat is precies waar Nederlandse overheidsorganisaties nu tegenaan lopen, gemeentelijke digitale assistenten, RVO-automatisering, toeslagenbesluiten, zonder dat BIO2 of de EU AI Act hier een antwoord op geeft.

De vier lagen van CASE

Het framework wijst vier bestuurswetenschappen toe aan vier schalen van agency:

Laag	Schaal	Bestuurswetenschap	Kernconstruct
Layer 1	Individuele agent	Control theory	Intent als setpoint, guardrails als feedback, evaluatie als observatie
Layer 2	Agent-collectief	Complex Adaptive Systems	Emergentie maakt single-agent assurance niet-compositioneel
Layer 3	Mens-agent teams	Supervisory cybernetics	Law of Requisite Variety: onbegeleid menselijk toezicht faalt structureel
Layer 4	Fleets	Engineering operations	Error budgets uitgebreid naar besliskwaliteit

De kracht zit in de koppeling. Elke laag heeft een formele structuur, en de cross-layer coupling conditions bepalen of het geheel stabiel blijft. Het paper identificeert een zero-touch deployment paradox: uitmuntendheid op één laag belast de andere lagen.

Formele definitie van de emergentie-laag

De niet-compositionaliteit van Layer 2 is het hart van het probleem. Formeel: laat $A_i$ de veiligheidseigenschap van agent $i$ zijn, en laat $S = {A_1, \dots, A_n}$ een collectief zijn. Single-agent assurance stelt dat $A_i$ geldt voor elke $i$. Compositionaliteit zou eisen:

$$\bigwedge_{i=1}^{n} A_i \implies A(S)$$

waarbij $A(S)$ de veiligheidseigenschap van het collectief is. Het CASE-framework stelt dat deze implicatie niet geldt voor agent-collectieven, omdat de interacties tussen agents nieuwe toestanden genereren die geen enkele individuele $A_i$ dekt. De veiligheid van het systeem is een functie van de interactietopologie, niet van de som van de delen:

$$A(S) = f(T, {A_i})$$

waarbij $T$ de interactietopologie is. Verander $T$ en $A(S)$ verandert, zelfs als alle $A_i$ constant blijven.

De Law of Requisite Variety en menselijk toezicht

Layer 3 is misschien wel de meest politiek relevante voor overheden. De Law of Requisite Variety (Ashby) stelt dat een controller alleen een systeem kan beheersen als zijn variëteit minstens gelijk is aan de variëteit van het systeem. Formeel:

$$H(C) \geq H(S)$$

waarbij $H(C)$ de variëteit van de controller is en $H(S)$ de variëteit van het systeem. Een menselijke toezichthouder die tientallen agents in realtime moet beoordelen, heeft een variëteit die vele ordes kleiner is dan het systeem dat hij beheert. Het toezicht is daarmee ceremonieel, het voldoet aan de vorm maar niet aan de functie.

Dit raakt direct aan EU AI Act Artikel 14, dat effectief menselijk toezicht wettelijk verplicht. Het paper stelt het ongemakkelijk: alleen architecturen die voldoen aan requisite variety kunnen toezicht echt maken in plaats van ceremonieel. Een mens die één agent beoordeelt kan dat. Een mens die een vloot van honderden agents beoordeelt kan dat niet, ongeacht wat de compliance-documentatie beweert.

De empirische onderbouwing

Het paper is geen theoretisch luchtkasteel. Drie studies onderbouwen de these:

1. 82% van gedocumenteerde productie-agent-failures zijn multi-layer trajecten. De fout begint niet op één laag maar slaat over lagen heen.
2. Geen van 22 ecosysteem-tools biedt volledige Layer 2 (emergentie) dekking. De markt dekt individuele agents, niet collectieven.
3. Alle 35 gescoorde publieke deployments vallen in de laagste maturity-band. Niemand zit op het volwassenheidsniveau dat het framework vereist.

Deze mismatch, risico gerealiseerd op de emergentie-laag, tegen capability die amper wordt aangeboden en praktijk die afwezig is, noemt het paper de Emergence Gap.

Een vijf-level maturity model

CASE operationaliseert als een vijf-level maturity model met een non-compensatory bottleneck-weighted index. Het woord "non-compensatory" is cruciaal: een zwakke laag kan niet worden gecompenseerd door een sterke andere laag. De bottleneck bepaalt de score.

def case_maturity_score(layers: dict, float) → float:
    """Non-compensatory bottleneck-weighted CASE score.
    
    Elke laag scoort 0-5. De bottleneck (laagste score) domineert.
    """
    # Non-compensatory: de laagste laag is de plafondbepaler
    bottleneck = min(layers.values())
    
    # Bottleneck-weighted: hogere lagen wegen mee maar kunnen de
    # bottleneck niet compenseren
    weights = {"L1": 0.25, "L2": 0.30, "L3": 0.25, "L4": 0.20}
    weighted = sum(layers[k] * w for k, w in weights.items())
    
    # Bottleneck domineert: score kan nooit boven bottleneck + 1 uitkomen
    return min(weighted, bottleneck + 1.0)

De complexiteit is O(1), het is een simpele aggregatie. Maar de semantiek is diep: door de bottleneck non-compensatory te maken, dwingt het model organisaties om de zwakste laag te fixen, niet de makkelijkste.

Praktijkvoorbeeld: gemeentelijke digitale assistent

Neem een gemeente die een digitale assistent inzet voor burgerzaken. De assistent is een agent die documenten ophaalt, formulieren invult en besluiten voorbereidt.

• Layer 1 (individuele agent): de agent heeft guardrails tegen prompt injection. De intent is het setpoint, de guardrails zijn de feedback. Dit werkt.
• Layer 2 (collectief): de gemeente draait tien assistenten voor tien diensten. Ze delen een retrieval-laag en een beslismodule. Emergentie: een assistent kan een toestand creëren die een andere assistent interpreteert als autorisatie. Geen enkele individuele guardrail dekt dit.
• Layer 3 (mens-agent team): één ambtenaar moet de output van tien assistenten beoordelen. Requisite variety faalt. De ambtenaar vinkt af zonder te begrijpen.
• Layer 4 (fleet): de gemeente heeft geen error budget voor besliskwaliteit. Autonomie is geen gecontroleerde variabele.

De Emergence Gap is hier concreet: het risico zit op Layer 2, de tooling dekt alleen Layer 1, en de praktijk is nergens.

Beperkingen

Het CASE-framework is geen wondermiddel. De beperkingen zijn reëel:

• De empirische studies zijn beschrijvend, niet experimenteel. 82% van failures is een observatie, geen gecontroleerd experiment. De causaliteit tussen lagen is niet bewezen.
• De maturity-index is een instrument, geen waarheid. De non-compensatory bottleneck is een ontwerpkeuze, geen natuurwet. Een organisatie die bewust Layer 2 laag houdt omdat het collectief klein is, wordt onterecht gestraft.
• De tooling-analyse (22 tools) is een momentopname. De markt beweegt snel; de Emergence Gap kan kleiner worden.
• Het framework zegt niets over de kosten van governance. Requisite variety eisen kan onbetaalbaar zijn. Het paper geeft geen afweging tussen risico en budget.

Wat dit betekent voor Nederlandse overheden

De EU AI Act Artikel 14 maakt effectief menselijk toezicht een wettelijke eis. Het CASE-framework toont dat de meeste huidige implementaties ceremonieel zijn, ze voldoen aan de vorm, niet aan de functie. Voor overheden die agentic AI inzetten of overwegen, is de vraag niet "hebben we human oversight?" maar "heeft ons toezicht voldoende variëteit om het systeem te beheersen?"

De Emergence Gap is een waarschuwing: de tooling-markt dekt individuele agents, maar de risico's zitten in collectieven. Wie agentic AI opschaalt zonder Layer 2-governance, bouwt een risico dat geen enkele vendor-tool dekt.

Bron: The CASE Framework: A Multi-Disciplinary Control Architecture for Governing Enterprise Agentic AI (arXiv:2608.10153, 10 aug 2026).