Van prevention-theater naar runtime controls — wat Alexandra Carvalho's Blueprint betekent voor AI-governance in de publieke sector

"My focus is on prevention, not paperwork."

Met die vijf woorden positioneert Alexandra Carvalho — Chief AI Officer bij Breeple.ai en bedenker van het Agentic Responsible AI Blueprint™ — zich in het hart van het AI-governance debat. Niet in de marge van ethische beginselverklaringen, maar in de operatiekamer waar AI-systemen daadwerkelijk beslissingen nemen, tools aanroepen, code wijzigen en artifacts muteren.

Haar research-sectie op alexandracarvalho.com is geen academische bibliotheek — het is een architectonische stellingname. En die stellingname raakt precies aan waar Nederlandse overheidsorganisaties nu doorheen moeten.

De regulatory convergence crisis is geen theorie — het is de werkelijkheid van 2026

Carvalho's eerste paper, Europe, AI Governance and the Regulatory Convergence Crisis: From the EU AI Act to the 2026 Compliance Architecture (DOI: 10.5281/zenodo.20225819), introduceert een term die CIO's en CISO's in ministeries, ZBO's en zorginstellingen onmiddellijk herkennen: de regulatory convergence crisis.

Het probleem is niet dat er één wet is waar je aan moet voldoen. Het probleem is dat je tegelijkertijd moet voldoen aan de EU AI Act, de GDPR/AVG, de NIS2/Cyberbeveiligingswet, BIO2, NORA, sectorspecifieke eisen zoals NEN 7510 voor de zorg of DORA voor financiële instellingen, én je eigen interne risk frameworks. De architectuur moet die overlap expliciet modelleren — anders bouw je een compliance-spaghetti die in de praktijk niet te auditen is.

Carvalho's term "convergence crisis" is treffend: het is niet alleen een uitdaging, het is een crisis omdat organisaties nu moeten aantonen dat hun AI-systemen voldoen, terwijl de frameworks waarop die audits gebaseerd moeten worden nog in ontwikkeling zijn.

Drie papers, drie domeinen, één rode draad

Naast het EU-paper publiceerde Carvalho nog twee open-access papers:

• China's AI Governance Architecture: From State Control to Operational AI Governance (DOI: 10.5281/zenodo.19905226). Een vergelijkende analyse van China's procedurele governance-infrastructuur — algoritmeregulering, generative AI, synthetic content, ethics review, cybersecurity, provenance en lifecycle accountability. De kernclaim is scherp: China zou verder zijn in operationalisering via filing obligations, ethics review structures en technische provenance-eisen dan vaak wordt aangenomen. Relevant voor Nederlandse CIO's die leveranciers met Chinese roots moeten beoordelen in een CLOUD Act-soevereiniteitscontext.

• AI Governance in Financial Services: The governance gap that is widening faster than anyone is admitting (DOI: 10.5281/zenodo.20120700). Carvalho adresseert hier financiële instellingen die AI op schaal inzetten terwijl governance-structuren "decorative" blijven. Via haar LinkedIn plaatst ze dit in de context van agentic AI, runtime telemetry, capability catalogues en reconstrueerbare decision chains.

De rode draad: governance moet niet op papier bestaan, maar als uitvoerbare architectuur — met controls, logging, evidence, model lifecycle, vendor governance, security gates en beslisrechten die op runtime-niveau afdwingbaar zijn.

Van aspirational naar operational: vijf maturiteitsassen

Carvalho's werk is op zijn sterkst wanneer je het leest als een routekaart van "we hebben een AI-beleid" naar "we kunnen bewijzen dat ons AI-systeem op ieder moment compliant opereerde". Dat vertaal ik naar vijf assen die direct toepasbaar zijn op de Nederlandse publieke sector:

As 1: Van principes naar controls. Niet "fairness, transparency, accountability" als slogans, maar vertaald naar toetsbare systeemvereisten: logging, refusal logic, access control, model registry, change control en audit trails. Een BIO2-auditor moet niet hoeven interpreteren wat "transparency" betekent — die moet een control kunnen testen.

As 2: Van model governance naar agent governance. Klassiek model risk management faalt bij agentic workflows. Een agent roept tools aan, haalt context op, decomposeert beslissingen en voert acties uit. Governance moet dus op capability-, tool-, context- en runtime-niveau plaatsvinden — niet alleen op modelniveau.

As 3: Van compliance snapshots naar continuous assurance. Periodieke toetsing is te traag voor dynamische AI-systemen die per turn hun gedrag kunnen veranderen. Nodig zijn continuous monitoring, drift-detectie, prompt/tool-call observability, policy-as-code en exception workflows.

As 4: Van vendor trust naar evidence sovereignty. Een organisatie moet eigen bewijs kunnen reconstrueren, ook als model of agent door een derde partij wordt geleverd. Anders blijft de aansprakelijkheid intern terwijl de bewijspositie extern zit. Dit raakt aan de kern van soevereine AI: je moet kunnen aantonen wat er gebeurde, ongeacht waar het model vandaan komt.

As 5: Van sectorale checklist naar convergentie-architectuur. EU AI Act, GDPR, NIS2, DORA, CRA, sectorale normen, ISO 27001 en interne risk frameworks overlappen. De architectuur moet die overlap expliciet modelleren — niet als aparte compliance-projecten, maar als één geïntegreerd control framework.

De volgende stap: het Responsible Agentic AI Control Plane

Hier raken Carvalho's ideeën en DjimIT's praktijk elkaar het scherpst. Waar zij het waarom van operational governance articuleert, bouwt DjimIT het hoe. De vertaling van haar Blueprint naar een uitvoerbaar control plane kent zes lagen:

Laag 1 — Regulatory mapping: EU AI Act, GDPR, NIS2, BIO2, DORA (indien financieel), ISO 27001, NIST AI RMF, OWASP GenAI/MCP-risico's. Dit is de bovenlaag: wat moet er worden aangetoond.

Laag 2 — AI system inventory: Use cases, modeltypes, agenttypes, capabilities, datasets, vendors, endpoints, risk classification, business owner, technical owner. Zonder deze inventaris weet je niet wat je moet governen.

Laag 3 — Capability governance: Governance per capability — zoeken, samenvatten, code wijzigen, e-mail verzenden, documenten interpreteren, API's aanroepen, beslissingen aanbevelen. Niet use-case governance maar per wat het systeem kan doen.

Laag 4 — Runtime controls: OIDC/OAuth2 scopes, least privilege, policy-as-code, tool allowlists, approval gates, deterministic refusal rules, prompt injection defence, data boundary enforcement. Dit is waar "prevention, not paperwork" fysiek wordt.

Laag 5 — Evidence fabric: Immutable logs, tool-call traces, model/version metadata, context snapshots, prompt hashes, decision lineage, human approvals, exceptions, test evidence. Dit is waar je tijdens een audit op wijst.

Laag 6 — Assurance loop: Red teaming, evaluation harnesses, regression tests, incident taxonomy, audit dashboards, control effectiveness metrics. Het systeem moet zichzelf continu bewijzen.

Wat dit betekent voor Nederlandse organisaties

Carvalho's onderzoek is geen eindmodel — en dat pretendeert haar site ook niet. Het is een positioneringsbron. De kracht zit in het onderscheid tussen "policy intent" en "runtime behaviour": wat het systeem zou moeten doen versus wat het feitelijk deed, met welke data, onder welke autorisatie, via welk model, met welke toolcalls en welke menselijke of geautomatiseerde goedkeuring.

Voor CIO's, CISO's en compliance officers bij de Rijksoverheid, zorginstellingen en semi-publieke organisaties is dit relevant omdat:

• De EU AI Act per augustus 2026 de eerste high-risk verplichtingen actief maakt
• BIO2-security controls moeten worden uitgebreid naar AI-agents die infrastructurele toegang hebben
• NIS2 supply chain security nu expliciet AI-leveranciers omvat
• NORA AP-08 (continuïteit) wordt geraakt door agents die autonoom configuraties kunnen wijzigen

DjimIT vertaalt Carvalho's "prevention, not paperwork" naar een concrete Agentic AI Governance Scan die de zes lagen van het Control Plane toetst tegen de actuele Nederlandse compliance-eisen, en een Responsible Agentic AI Control Plane implementatie die runtime controls, evidence fabric en assurance loops operationeel maakt.

Niet als beleidsdocument. Als architectuur.

---

Alexandra Carvalho: alexandracarvalho.com, ORCID: 0009-0003-0156-7180. Papers via Zenodo open-access.