De recht-toelichting-kloof: waarom XAI niet voldoet aan de AVG en AI Act

De Nederlandse overheid zet steeds vaker geautomatiseerde beslissingen in. UWV bepaalt of je een uitkering krijgt. DUO bepaalt of je recht hebt op studiefinanciering. Gemeenten screenen op fraude. De AVG en AI Act geven burgers een "recht op uitleg", maar wat levert de praktijk?

Een systematische review uit 2026 arXiv:2608.02699 laat zien: de kloof tussen wat de wet vraagt en wat XAI-technieken bieden is structureel. Die kloof is niet alleen technisch. Hij is ook juridisch en organisatorisch.

Ik werk dagelijks met overheden die AI inzetten. Dit signaal raakt een zere plek. We bouwen modellen die we kunnen uitleggen aan data scientists, maar niet aan burgers. En de wet eist het tweede.

Wat de wet écht vraagt

Artikel 22 AVG en artikel 86 AI Act geven een burger het recht op een "meaningful explanation" van geautomatiseerde beslissingen. Dat klinkt abstract. De praktijk is concreet.

• De uitleg moet individueel zijn, niet een generieke beschrijving van het model.
• De uitleg moet betekenisvol zijn. De burger moet begrijpen waarom de beslissing voor hém of háár is genomen.
• De uitleg moet voldoende zijn om de beslissing aan te vechten.

Deze eisen komen uit de rechtspraak van het Hof van Justitie EU (o.a. C‑634/21) en de Guidance van de Article 29 Working Party. Geen vrijblijvendheid.

Wat XAI-technieken leveren

De review analyseert 47 XAI-methoden. De meest gebruikte zijn LIME, SHAP, Grad-CAM, Integrated Gradients, en een handvol counterfactual-methoden. Dit doen ze:

• LIME: benadert het model lokaal met een lineair model. Output is een lijst features met gewichten.
• SHAP: Shapley-waarden per feature. Output is een getal per inputvariabele.
• Grad-CAM: heatmaps voor beeldmodellen.
• Counterfactuals: "als je inkomen €500 hoger was geweest, was de uitkomst anders."

Allemaal technisch interessant. Voldoen ze aan de juridische eis?

De vertaalkloof in drie punten

De review identificeert drie structurele problemen.

1. Technische uitleg is niet hetzelfde als betekenisvolle uitleg

SHAP geeft een getal: "feature X droeg 0.23 bij aan de score." Wat moet een burger daarmee? Zonder context, zonder drempelwaarden, zonder referentiekader is dat geen uitleg. Het is een technische metriek.

2. Individueel is niet hetzelfde als lokaal

LIME en SHAP zijn lokaal. Ze verklaren één voorspelling. Maar "lokaal" betekent niet automatisch "individueel". De uitleg moet aansluiten bij de leefwereld van de burger. "Uw postcode heeft een negatieve invloed" is lokaal. Het is niet individueel betekenisvol als de burger niet weet waarom die postcode zwaar weegt.

3. Geen causaliteit, alleen correlatie

Vrijwel alle XAI-methoden geven correlatieve verklaringen. Ze zeggen: "deze feature hing samen met de uitkomst." Maar de wet vraagt waarom de beslissing is genomen. Dat vereist een causale redenering. "Omdat uw inkomen laag is" is een correlatie. "Omdat de regels zeggen dat bij een inkomen onder X de uitkering wordt afgewezen" is een causale uitleg. XAI geeft het eerste, niet het tweede.

Concreet voorbeeld: UWV en de WIA-beoordeling

Stel, UWV gebruikt een model om te bepalen of iemand recht heeft op een WIA-uitkering. Het model zegt: afgewezen. De burger vraagt om uitleg.

Een SHAP-analyse geeft: "leeftijd: -0.15, medische score: -0.42, opleidingsniveau: +0.08." Wat moet iemand hiermee? De burger wil weten: "waarom ik niet?" Niet: "welke features negatief scoorden."

De AVG eist dat UWV kan uitleggen welke factoren doorslaggevend waren, hoe die zijn gewogen, en of er sprake is van profilering. SHAP geeft dat niet. Een counterfactual ("als uw medische score 10 punten hoger was, was u goedgekeurd") komt dichterbij. Maar nog steeds: waarom die drempel? En waarom geldt die voor mij?

Wat de review aanbeveelt

De auteurs stellen een "Law-XAI Translation Framework" voor. Drie lagen:

1. Juridische specificatie: vertaal de rechtsnorm naar concrete uitlegvereisten per domein.
2. Technische mapping: kies XAI-methoden die bij de vereisten passen.
3. Presentatie: zorg dat de output begrijpelijk is voor de eindgebruiker.