Auditabele on-premise AI in de zorg: de architectuurles van DIASENTINEL voor klinische besluitondersteuning

De belofte van AI-besluitondersteuning in de zorg botst met een harde realiteit: een taalmodel dat een laboratoriumwaarde verzint, een aanbeveling doet zonder klinische basis, of een citaat aan de verkeerde richtlijn koppelt, is in een ziekenhuis niet zomaar een bug. In de kliniek kan dat exact de fout zijn die een klinische beslissing verkeerd stuurt. De uitdaging is daarom niet of een LLM een handige dokter is, maar of je kunt bewijzen dat het systeem achteraf controleerbaar de juiste gegevens met de juiste richtlijn heeft verbonden.

DIASENTINEL, een multi-agent systeem van auteurs aan Taiwanese en Amerikaanse onderzoekinstellingen voor éénjarige diabetes-risicoscreening, is relevant omdat het dit probleem niet oplost met een beter model maar met een betere architectuur. Het systeem draait volledig on-premise, en de kern is een verificatielaag die elke uitvoer controleert en vastlegt in een append-only audit log, zonder ooit de autonomie van de clinicus over te nemen.

Mijn hoofdstelling:

De auditability van AI-besluitondersteuning zit niet in het model maar in de scheiding tussen generatie en verificatie: een verpleegkundige verificatie-laag die annotaties naast het rapport legt in plaats van ze te overschrijven, is wat een LLM-systeem in de zorg klinisch verantwoordbaar maakt. Voor Nederlandse zorginstellingen betekent dit dat NEN 7510 en AI Act-hoog-risico niet conflicteren met efficiëntie, maar een ontwerpkeuze eisen die DIASENTINEL concreet maakt.

1. Drie faalwijzen die klinische LLM's kwetsbaar maken

De paper identificeert drie risico's die elke LLM-gebaseerde klinische besluitondersteuning structureel bedreigen:

• Slecht gekalibreerde kansen. Een model kan een risicoscore van 0,7 produceren waarvan de werkelijke incidentie 0,5 is. Voor éénjarige diabetes-screening is kalibratie geen statistische luxe; het bepaalt welke cohorten als hoogrisico worden bestempeld.
• Hallucinatie. Het model kan laboratoriumwaarden, klinische bevindingen of aanbevelingen genereren zonder basis in het medisch dossier of de richtlijn.
• Citation drift. Retrieval-Augmented Generation kan een inhoudelijk correcte aanbeveling toch koppelen aan de verkeerde bron, waardoor de verwijzing onjuist is.

Deze drie samen ondermijnen verifieerbaarheid en klinische betrouwbaarheid op precies de manier waarop bestaande AI Act-hoog-risico-eisen voor de zorg (Annex III) vragen om transparantie en menselijk toezicht.

2. De architectuur: generatie en verificatie strikt gescheiden

DIASENTINEL, georkestreerd met LangGraph, decomposeert de diagnostische workflow in auditabele subtaken met twee werkingsmodi:

• Batch-screening: een risicofunctie kent elke geschikte patiënt een gekalibreerde éénjarige T2DM-risico-waarschijnlijkheid en een hoog-, midden-, of laag-risico-tier toe.
• Per-patiënt rapport: op verzoek genereert het systeem een gepersonaliseerd, richtlijn-gefundeerd rapport.

De drie bijdragen die ertoe doen voor ziekenhuizen:

1. Een gekalibreerde risicovoorspeller. Een Qwen2.5-14B-model, via LoRA gefinetuned zodat de voorspelde kansen aansluiten bij de waargenomen éénjarige T2DM-incidentie en klinisch betekenisvolle risicostratificatie ondersteunen.
2. Twee-fase retrieval over de ADA-richtlijnen. Dense retrieval gevolgd door cross-encoder re-ranking, gecombineerd via Reciprocal Rank Fusion om de lengte-bias van de reranker alleen te corrigeren.
3. Een in-the-loop verificatie-agent. Een hybride laag die vier deterministische checks combineert met een LLM-entailment check, vóór het rapport aan de clinicus wordt getoond.

3. De cruciale ontwerpkeuze: annotate-only, nooit overschrijven

De verificatie-laag is waar DIASENTINEL architectonisch uitblinkt. Elke check controleert consistentie tussen het gegenereerde rapport en vier referentiepunten: de voorspelde risicoscore en tier, de EHR-afgeleide numerieke waarden, de longitudinale bevindingen, en de opgehaalde richtlijn-citaten. Dit detecteert gewijzigde waarden, incorrecte risico-stratificatie, ondersteunde trends en citation drift.

Daaroverheen voegt een Qwen2.5-14B-Instruct entailment check toe die verifieert of aanbevelingen semantisch ondersteund worden door de opgehaalde richtlijn-passages. Elke check retourneert pass, flag of skipped.

De architectonisch bepalende eigenschap is dat de verificatie-agent strictly annotate-only is. Hij schrijft alle resultaten naar een append-only JSON-lines audit log en toont ze aan de clinicus, zonder het gegenereerde rapport te wijzigen. Dat behoudt de autoriteit van de clinicus. Het systeem geeft geen definitieve uitspraak; het legt naast elke aanbeveling het bewijs waarom die wel of niet ondersteund wordt, en laat de professionele beoordeling aan de mens.

Dit is precies het tegenovergestelde van een black-box die een klinische beslissing neemt en die de arts alleen kan accepteren of afwijzen. Het is een systeem dat de beslissing neemt maar de grondslag ervan volledig traceerbaar maakt.

4. De evaluatie: demonstratieschaal, geen klinisch bewijs

De paper rapporteert een demonstratieschaal-evaluatie van de verificatie-laag:

• Deterministische checks: over 24 gevallen (12 geïnjecteerde fouten + 12 schonere controles) werden alle 12 fouten gedetecteerd en geen van de 12 schone controles fout-positief gevlagd (100% sensitiviteit en 100% specificiteit).
• LLM-entailment check: over 40 cases (20 grounded + 20 verstoorde niet-ondersteunde claim-evidence paren) werd 80% sensitiviteit en 100% specificiteit bereikt; bij drie runs op temperatuur 0 gaf de judge identieke oordelen over alle 40 cases, wat reproduceerbaarheid aantoont.

De auteurs zijn hier zelf het meest precies over: de evaluatie is beperkt tot synthetische, handmatig geconstrueerde cases en weerspiegelt niet de foutdistributie of base rate van echte klinische inzet. Het toont niet aan dat het systeem klinisch betrouwbaar is; het toont aan dat de verificatie-architectuur in staat is om geïnjecteerde fouten te detecteren.

5. Wat dit betekent voor Nederlandse zorginstellingen

De relevantie voor de Nederlandse publieke sector is niet het diabetes-domein zelf maar het architectuurpatroon dat DIASENTINEL bewijst als haalbaar:

• On-premise is functioneel, niet alleen compliance. Het systeem bewijst dat auditable LLM-besluitondersteuning kan draaien binnen de ziekenhuisomgeving. NEN 7510 (informatiebeveiliging in de zorg), de eis dat persoonsgegevens niet naar externe infrastructuur lekken, en de AI Act-hoog-risico-categorie voor zorg komen samen in één ontwerp in plaats van tegen elkaar te schuren.
• Verifieerbaarheid als ontwerpkeuze, niet als nablijfsels. De scheiding tussen de generatie-laag (LLM) en de verificatie-laag (deterministisch + entailment), plus de append-only audit log, is wat een AI Act-kernvereiste voor hoog-risico-systemen concreet maakt: traceerbaarheid van de beslissing zonder dat de menselijke autoriteit wordt overgenomen.
• Menselijk toezicht dat werkt. De "annotate-only" keuze is een direct antwoord op de AI Act-eis van menselijk toezicht: het systeem informeert en bewijst, de clinicus beslist. Dit voorkomt zowel de automation bias (blinde acceptatie) als de over-riding (de arts moet alles zelf opnieuw uitrekenen).

Twee praktische aanbevelingen voor een zorginstelling die LLM-ondersteuning overweegt:

• Vereis een scheiding tussen generatie en verificatie. Kies geen oplossing waarin hetzelfde model zowel de beslissing genereert als de juistheid ervan bevestigt zonder externe controle. Een onafhankelijke verificatielaag met deterministische checks is de minimale voorwaarde.
• Leg de audit log als ontwerpvereiste vast. Eist een append-only register dat niet door het model kan worden gewijzigd, en dat het rapport én de verificatie-annotaties samen bewaart. Dat is de praktische vertaling van traceerbaarheid.

6. Wat dit NIET zegt

Een waarschuwing tegen te brede conclusies is nodig. De paper is een systeemdemonstratie, geen klinische validatie. De verificatiescores (80-100%) komen uit handmatig geconstrueerde gevallen op demonstratieschaal, niet uit prospectieve klinische data. Het absolute risiconiveau van de voorspeller, en of het op Nederlandse populaties en richtlijnen (bijvoorbeeld de NHG-standaard) generaliseert, is niet onderzocht. Wat wél staat, is het architectuurprincipe: verifieerbaarheid en auditability zijn ontwerpkeuzes die haalbaar zijn binnen de on-premise grens, en die direct aansluiten op de eisen die Nederlandse zorginstellingen al hebben.

Bron: Yung Wei Shueh, Zhi-Jie Chen, et al., DIASENTINEL: An Auditable Multi-Agent System for Guideline-Grounded Diabetes Risk Screening, arXiv:2608.31128, 31 augustus 2026.