Waarom neuro-symbolische governance de enige weg is voor verifieerbare AI-agenten

De paper Neuro-Symbolic Governance for Verifiable AI Agents¹ legt een fundament waar de Nederlandse overheid niet omheen kan.
Niet omdat het een nieuwe hype is, maar omdat het een concreet antwoord geeft op een vraag die elke CIO en CISO in de publieke sector zich stelt: hoe vertrouw ik een AI-agent die ik niet volledig kan inspecteren?

Het antwoord: je inspecteert niet het neurale netwerk, je verifieert de regels die het netwerk moet volgen.

De shift: van black-box naar rule-aware

Tot nu toe draaide AI-governance om documentatie. Je schrijft een Data Protection Impact Assessment, je vult een AI Act checklist in, en je hoopt dat je model geen rare dingen doet. Maar een LLM of een reinforcement learning agent produceert output die je niet kunt herleiden naar een specifieke regel. Je kunt niet zeggen: “deze beslissing is genomen omdat artikel 9 van de AVG van toepassing was.”

Neuro-symbolische governance draait dat om. In plaats van een black-box te trainen en achteraf te hopen dat het compliant is, bouw je een systeem waarin een symbolische laag expliciet de regels definieert en een neuraal netwerk alleen binnen die grenzen opereert.

De paper van de auteurs (geen commerciële partij, maar een academisch consortium) laat zien hoe je dit architecturaal aanpakt. Ze introduceren een verification layer die elke actie van een AI-agent toetst aan een set formele regels, denk aan logische constraints, wetsteksten, of beleidsregels. Als de agent een actie voorstelt die niet verifieerbaar is, wordt die geblokkeerd of gemarkeerd.

Hoe het werkt: een concreet voorbeeld

Stel je een AI-agent voor die automatisch persoonsgegevens verwerkt voor een gemeentelijke dienst. De AVG zegt: je mag alleen gegevens verwerken als er een grondslag is (toestemming, wettelijke plicht, etc.). Een standaard LLM kan die regel niet garanderen. Een neuro-symbolische agent wel.

De architectuur ziet er zo uit:

• Symbolische laag: een set formele regels in een logische taal (bijv. Datalog of Answer Set Programming). Voorbeeld: verwerk_gegevens(X) :- toestemming(X) ; wettelijke_plicht(X).
• Neurale laag: een LLM die natuurlijke taal interpreteert en voorstellen doet, maar die voorstellen worden eerst vertaald naar symbolische feiten.
• Verification engine: toetst of de voorgestelde actie voldoet aan de regels. Zo niet, dan wordt de actie afgewezen en krijgt de gebruiker een uitleg: “Deze actie is niet toegestaan omdat er geen toestemming is.”

De paper geeft een implementatievoorbeeld in Python met behulp van de clingo solver voor Answer Set Programming. Het command ziet er ongeveer zo uit:

clingo rules.lp facts.lp --models 1

Waarbij rules.lp de AVG-regels bevat en facts.lp de huidige context (bijv. toestemming(jan_doel).). Als er geen model bestaat, is de actie niet verifieerbaar.

Waarom dit relevant is voor de Nederlandse overheid

De EU AI Act vereist voor hoog-risico AI-systemen een human oversight en transparency. Maar hoe bied je toezicht als je niet kunt uitleggen waarom een AI-agent een beslissing nam? De paper biedt een architectuur die precies dat mogelijk maakt: elke beslissing is herleidbaar naar een set regels.

BIO2 (Baseline Informatiebeveiliging Overheid) eist audittrails. Een neuro-symbolische agent genereert automatisch een log van elke verificatie: welke regel werd getoetst, wat was de uitkomst, welke feiten waren bekend. Dat is een audittrail die een auditor kan lezen zonder AI-expert te zijn.

NIS2 voegt daar nog een laag aan toe: incidenten moeten binnen 24 uur worden gemeld, en je moet kunnen aantonen dat je systemen by design compliant zijn. Neuro-symbolische governance is by design: de regels zitten in de architectuur, niet in een document.

Wat dit betekent voor jouw organisatie

Als je nu een AI-agent bouwt of inkoopt, vraag dan niet alleen naar de nauwkeurigheid. Vraag naar de verifieerbaarheid. Kan de leverancier aantonen dat elke output getoetst wordt aan een formele set regels? Of is het een black-box die je alleen kunt vertrouwen op basis van testsets?

De paper laat zien dat verifieerbaarheid geen extra feature is, maar een architectuurkeuze. Je kunt een LLM niet achteraf verifieerbaar maken. Je moet het vanaf het begin inbouwen.

De praktische uitdagingen

Neuro-symbolische systemen zijn niet triviaal. De symbolische laag moet de volledige relevante wet- en regelgeving dekken. Dat betekent dat je juristen en domeinexperts nodig hebt om de regels te formaliseren. Een AVG-artikel is geen logische formule. Je moet het vertalen naar constraints die een solver kan verwerken.

Daarnaast is de neurale laag nog steeds een LLM. Die kan hallucineren. Het verschil is dat de hallucinatie niet leidt tot een niet-compliant actie, omdat de verification engine hem tegenhoudt. Maar de gebruiker kan wel een foutieve uitleg krijgen. De paper adresseert dit door de uitleg ook uit de symbolische laag te laten komen, niet uit het LLM.

Cross-link: hoe begin je met AI-governance?

Wil je weten of jouw organisatie klaar is voor deze aanpak? Begin met een inventarisatie van je AI-systemen. In mijn eerdere post AI Act Self-Check voor de publieke sector leg ik uit hoe je in 5 minuten een eerste scan doet. Die scan is de basis voor het bepalen welke systemen neuro-symbolische governance nodig hebben.

Conclusie: geen revolutie, maar evolutie

Neuro-symbolische governance is geen wondermiddel. Het is een logische volgende stap in de volwassenwording van AI. We zijn voorbij het punt waar we AI-systemen blind vertrouwen. De EU AI Act, BIO2 en NIS2 dwingen ons om na te denken over verifieerbaarheid. Deze paper geeft een concrete architectuur om dat te realiseren.

De vraag is niet of je neuro-symbolische governance gaat toepassen. De vraag is wanneer je begint met het formaliseren van je regels.

Footnotes

1. arXiv:2507.22601, Abstract | PDF ↩