AI-scribes zijn de nieuwste belofte in zorgtechnologie: een ambient AI-systeem dat meeluistert met het arts-patiëntgesprek en automatisch klinische documentatie genereert. De belofte: minder administratieve last, minder burn-out, meer tijd voor de patiënt. Maar in een recent NEJM AI-artikel trekken Sara Gerke en David A. Simon de discussie uit de productiviteitssfeer en plaatsen hem waar hij hoort: bij privacy, toestemming en systeemvertrouwen.

Hun kernboodschap is ongemakkelijk maar noodzakelijk: AI-scribes zijn geen neutrale notuleertools. Ze zijn ambient surveillance-systemen in een klinische context.

De blinde vlek in het scribe-narratief

De discussie over AI-scribes gaat doorgaans over administratieve lastenverlichting, documentatiekwaliteit en arts-burn-out. De auteurs plaatsen daar een fundamenteel andere vraag tegenover: wie luistert er mee?

Een AI-scribe registreert het volledige gesprek, extraheert medische context, genereert notities, slaat metadata op en kan, afhankelijk van leverancier en contract, bijdragen aan productverbetering, modelontwikkeling of analytics. Daarmee verschuift de spreekkamer van een vertrouwelijke interactie tussen arts en patiënt naar een data-intensieve verwerkingsketen met meerdere actoren.

De echte governancevraag is niet "voldoet dit aan HIPAA of AVG?" maar:

Wie luistert mee, wie verwerkt, wie bewaart, wie leert ervan, wie mag hergebruiken, wie controleert de output, en hoe expliciet begrijpt de patiënt dit?

De auteurs plaatsen AI-scribes in lijn met eerdere privacy-kwesties rond zorg-AI, waaronder Dinerstein v. Google, waarin het delen van elektronische patiëntendossiers met Google voor AI-ontwikkeling leidde tot claims over privacy, heridentificeerbaarheid en de-identificatie.

De vijf belangrijkste risico's

Het artikel identificeert een risicoprofiel dat verder reikt dan standaard privacy-compliance:

Risico	Wat het betekent
Onvoldoende geïnformeerde toestemming	Patiënten kunnen formeel "toestemmen", maar begrijpen niet dat een AI-systeem meeluistert, verwerkt en mogelijk gegevens tijdelijk opslaat. Consent moet situationeel, begrijpelijk en herroepbaar zijn.
Function creep	Audio wordt eerst gebruikt voor verslaglegging, later voor analytics, kwaliteitsverbetering of modeltraining. Secundair gebruik moet contractueel uitgesloten worden tenzij expliciet goedgekeurd.
Vendor opacity	Onduidelijk waar audio, transcripties, embeddings, prompts en output worden verwerkt. Data flow mapping en verwerkersaudits zijn geen optie maar verplichting.
Heridentificatie	Klinische gesprekken bevatten indirect identificeerbare gegevens, ook als directe identifiers worden verwijderd. Pseudonimisering is geen anonimisering.
Vertrouwensverlies	Patiënten kunnen minder open spreken bij gevoelige onderwerpen, migratiestatus, huiselijk geweld, psychiatrie, seksualiteit, reproductieve zorg. Opt-out is onvoldoende; opt-in of pause-by-default is verdedigbaarder.

Daarnaast is er klinische aansprakelijkheid, AI-notities kunnen fouten, omissies of ongewenste details bevatten. De arts blijft eindverantwoordelijk voor validatie vóór opname in het EPD. En security exposure: audio en transcripties zijn aanzienlijk rijkere aanvalsvectoren dan gestructureerde EPD-velden.

AVG en AI Act: de lat ligt hoger dan in de VS

Voor Europese zorgorganisaties is de juridische context strenger dan in veel Amerikaanse implementaties.

Onder de AVG gaat het om bijzondere persoonsgegevens, gezondheidsgegevens onder artikel 9 AVG. Dat vereist een expliciete grondslag, dataminimalisatie, doelbinding, transparantie, passende technische en organisatorische maatregelen, en in de meeste gevallen een Data Protection Impact Assessment (DPIA). De EDPB heeft in 2025 opnieuw benadrukt dat pseudonimisering een safeguard is binnen gegevensbescherming, geen vrijbrief om buiten de AVG te vallen.

Onder de EU AI Act is een AI-scribe niet automatisch verboden, maar de context kan hoog-risico worden wanneer het systeem klinische besluitvorming beïnvloedt, patiëntcommunicatie structureert of onderdeel wordt van de medische workflow-governance. Daarnaast gelden vanaf 2 augustus 2026 de transparantieverplichtingen van artikel 50: natuurlijke personen moeten worden geïnformeerd wanneer zij met AI interacteren of eraan worden blootgesteld.

Voor AI-scribes betekent dit praktisch: een bordje in de wachtkamer is governance theatre, geen volwassen transparantie. Patiënten moeten niet alleen juridisch geïnformeerd worden, maar begrijpelijk, zichtbaar en contextueel.

Architectuurprincipes voor veilige inzet

AI-scribes mogen alleen worden ingezet onder een Privacy-by-Design referentiearchitectuur met minimaal deze principes:

Principe	Implementatie
Local-first of EU-sovereign processing	Audio waar mogelijk lokaal of binnen gecontroleerde EU-infrastructuur verwerken. Vermijd onnodige doorgifte naar derde landen.
Zero retention by default	Audio direct verwijderen na transcriptie en validatie, tenzij een expliciete juridische reden bestaat voor tijdelijke opslag.
No training clause	Contractueel uitsluiten dat audio, transcripties, notities, prompts, embeddings of afgeleide metadata worden gebruikt voor modeltraining of productontwikkeling zonder expliciete, aparte toestemming.
Pause and redact workflow	De arts moet de AI-scribe eenvoudig kunnen pauzeren. Voor gevoelige onderwerpen moet pauzeren de standaardoptie zijn.
Human-in-the-loop validation	AI-output mag nooit automatisch als definitieve medische notitie in het EPD landen. De arts moet reviewen, corrigeren en accorderen.
Granular logging	Log niet de inhoud, maar wel de procesgebeurtenissen: wie activeerde de scribe, wanneer, welk model, welke versie, outputstatus, correcties, EPD-commit.
Data lineage	Elke notitie moet herleidbaar zijn naar zijn bron: menselijke notitie, AI-concept, arts-gevalideerde AI-notitie, later gewijzigde notitie.
Patient control	De patiënt moet kunnen weigeren zonder negatieve consequentie. Dit moet expliciet worden gezegd, niet impliciet worden verwacht.

Minimale DPIA-vragenlijst

Voor een zorgorganisatie die een AI-scribe overweegt, is deze vragenlijst het absolute minimum:

Domein	Vraag
Doelbinding	Wordt de scribe uitsluitend gebruikt voor klinische verslaglegging?
Datastromen	Waar gaan audio, transcriptie, prompt, output en metadata heen?
Verwerker	Is de leverancier verwerker, gezamenlijke verwerkingsverantwoordelijke, of zelfstandig verantwoordelijke?
Retentie	Hoe lang worden audio en transcripties bewaard?
Training	Worden data gebruikt voor modeltraining, fine-tuning, evaluatie of productverbetering?
Derde landen	Is er doorgifte buiten de EU/EER?
Toestemming	Is toestemming vrij, specifiek, geïnformeerd en herroepbaar?
Kwetsbare groepen	Is er extra bescherming voor minderjarigen, psychiatrie, migratie, geweld, seksualiteit, reproductieve zorg?
Outputcontrole	Wie accordeert de AI-notitie voordat deze in het EPD komt?
Incidentrespons	Wat gebeurt er bij foutieve transcriptie, datalek, ongewenste opslag of hallucinated note?

Geen enkele AI-scribe zou mogen worden ingezet zonder dat deze tien vragen beantwoord én gedocumenteerd zijn.

Besliskader: vijf gates voor go/no-go

Gebruik geen AI-scribe tenzij aan vijf gates is voldaan:

Gate	Minimumeis
Privacy gate	DPIA afgerond, DPO akkoord, doelbinding helder
Security gate	Encryptie, IAM, audit logs, retention controls, incidentproces ingericht
Contract gate	Geen training op data, geen secundair gebruik, heldere subprocessorlijst
Clinical safety gate	Arts valideert output, foutproces ingericht, aansprakelijkheid geregeld
Trust gate	Patiënt krijgt duidelijke keuze, inclusief pauzeren en weigeren

Strategische conclusie

Het NEJM AI-artikel van Gerke en Simon levert de juiste strategische framing: AI-scribes zijn geen simpele efficiency-tooling, maar een nieuwe laag van klinische dataverwerking in de behandelrelatie.

Voor Nederland en Europa vertaalt zich dit naar één harde governancepositie:

AI-scribes mogen pas worden ingezet wanneer privacy, toestemming, dataminimalisatie, klinische validatie en vendor-governance aantoonbaar zijn ontworpen in de workflow, niet achteraf toegevoegd als compliance-documentatie.

De praktische norm: geen ambient AI in de spreekkamer zonder expliciete patiëntinformatie, pause-functionaliteit, zero-retention beleid, menselijke validatie en aantoonbare contractuele uitsluiting van secundair datagebruik.

De grootste blinde vlek in de markt is dat AI-scribes vaak als SaaS-feature worden ingekocht, terwijl ze behandeld moeten worden als kritieke klinische infrastructuur. De architectuurprincipes, DPIA-vragenlijst en vijf gates in dit artikel vormen het minimale governance-kader voor verantwoorde inzet.

Gebaseerd op: Gerke, S. & Simon, D.A. (2026). "Privacy Considerations of Artificial Intelligence Scribes." NEJM AI, 20 mei 2026. DOI: 10.1056/AIpc2501401. Analyse mede gebaseerd op publiek beschikbare metadata en contextbronnen, waaronder AVG Art. 9, EDPB-richtlijnen pseudonimisering (2025), EU AI Act Art. 50 transparantieverplichtingen, en Dinerstein v. Google jurisprudentie.

Hun kernboodschap is ongemakkelijk maar noodzakelijk: AI-scribes zijn geen neutrale notuleertools. Ze zijn ambient surveillance-systemen in een klinische context.

De blinde vlek in het scribe-narratief

De echte governancevraag is niet "voldoet dit aan HIPAA of AVG?" maar:

Wie luistert mee, wie verwerkt, wie bewaart, wie leert ervan, wie mag hergebruiken, wie controleert de output, en hoe expliciet begrijpt de patiënt dit?

De vijf belangrijkste risico's

Het artikel identificeert een risicoprofiel dat verder reikt dan standaard privacy-compliance:

Risico	Wat het betekent
Onvoldoende geïnformeerde toestemming	Patiënten kunnen formeel "toestemmen", maar begrijpen niet dat een AI-systeem meeluistert, verwerkt en mogelijk gegevens tijdelijk opslaat. Consent moet situationeel, begrijpelijk en herroepbaar zijn.
Function creep	Audio wordt eerst gebruikt voor verslaglegging, later voor analytics, kwaliteitsverbetering of modeltraining. Secundair gebruik moet contractueel uitgesloten worden tenzij expliciet goedgekeurd.
Vendor opacity	Onduidelijk waar audio, transcripties, embeddings, prompts en output worden verwerkt. Data flow mapping en verwerkersaudits zijn geen optie maar verplichting.
Heridentificatie	Klinische gesprekken bevatten indirect identificeerbare gegevens, ook als directe identifiers worden verwijderd. Pseudonimisering is geen anonimisering.
Vertrouwensverlies	Patiënten kunnen minder open spreken bij gevoelige onderwerpen, migratiestatus, huiselijk geweld, psychiatrie, seksualiteit, reproductieve zorg. Opt-out is onvoldoende; opt-in of pause-by-default is verdedigbaarder.

AVG en AI Act: de lat ligt hoger dan in de VS

Voor Europese zorgorganisaties is de juridische context strenger dan in veel Amerikaanse implementaties.

Architectuurprincipes voor veilige inzet

AI-scribes mogen alleen worden ingezet onder een Privacy-by-Design referentiearchitectuur met minimaal deze principes:

Principe	Implementatie
Local-first of EU-sovereign processing	Audio waar mogelijk lokaal of binnen gecontroleerde EU-infrastructuur verwerken. Vermijd onnodige doorgifte naar derde landen.
Zero retention by default	Audio direct verwijderen na transcriptie en validatie, tenzij een expliciete juridische reden bestaat voor tijdelijke opslag.
No training clause	Contractueel uitsluiten dat audio, transcripties, notities, prompts, embeddings of afgeleide metadata worden gebruikt voor modeltraining of productontwikkeling zonder expliciete, aparte toestemming.
Pause and redact workflow	De arts moet de AI-scribe eenvoudig kunnen pauzeren. Voor gevoelige onderwerpen moet pauzeren de standaardoptie zijn.
Human-in-the-loop validation	AI-output mag nooit automatisch als definitieve medische notitie in het EPD landen. De arts moet reviewen, corrigeren en accorderen.
Granular logging	Log niet de inhoud, maar wel de procesgebeurtenissen: wie activeerde de scribe, wanneer, welk model, welke versie, outputstatus, correcties, EPD-commit.
Data lineage	Elke notitie moet herleidbaar zijn naar zijn bron: menselijke notitie, AI-concept, arts-gevalideerde AI-notitie, later gewijzigde notitie.
Patient control	De patiënt moet kunnen weigeren zonder negatieve consequentie. Dit moet expliciet worden gezegd, niet impliciet worden verwacht.

Minimale DPIA-vragenlijst

Voor een zorgorganisatie die een AI-scribe overweegt, is deze vragenlijst het absolute minimum:

Domein	Vraag
Doelbinding	Wordt de scribe uitsluitend gebruikt voor klinische verslaglegging?
Datastromen	Waar gaan audio, transcriptie, prompt, output en metadata heen?
Verwerker	Is de leverancier verwerker, gezamenlijke verwerkingsverantwoordelijke, of zelfstandig verantwoordelijke?
Retentie	Hoe lang worden audio en transcripties bewaard?
Training	Worden data gebruikt voor modeltraining, fine-tuning, evaluatie of productverbetering?
Derde landen	Is er doorgifte buiten de EU/EER?
Toestemming	Is toestemming vrij, specifiek, geïnformeerd en herroepbaar?
Kwetsbare groepen	Is er extra bescherming voor minderjarigen, psychiatrie, migratie, geweld, seksualiteit, reproductieve zorg?
Outputcontrole	Wie accordeert de AI-notitie voordat deze in het EPD komt?
Incidentrespons	Wat gebeurt er bij foutieve transcriptie, datalek, ongewenste opslag of hallucinated note?

Geen enkele AI-scribe zou mogen worden ingezet zonder dat deze tien vragen beantwoord én gedocumenteerd zijn.

Besliskader: vijf gates voor go/no-go

Gebruik geen AI-scribe tenzij aan vijf gates is voldaan:

Gate	Minimumeis
Privacy gate	DPIA afgerond, DPO akkoord, doelbinding helder
Security gate	Encryptie, IAM, audit logs, retention controls, incidentproces ingericht
Contract gate	Geen training op data, geen secundair gebruik, heldere subprocessorlijst
Clinical safety gate	Arts valideert output, foutproces ingericht, aansprakelijkheid geregeld
Trust gate	Patiënt krijgt duidelijke keuze, inclusief pauzeren en weigeren

Strategische conclusie

Voor Nederland en Europa vertaalt zich dit naar één harde governancepositie:

AI-scribes mogen pas worden ingezet wanneer privacy, toestemming, dataminimalisatie, klinische validatie en vendor-governance aantoonbaar zijn ontworpen in de workflow, niet achteraf toegevoegd als compliance-documentatie.

AI-scribes in de spreekkamer: waarom ambient AI géén neutrale notulist is

De blinde vlek in het scribe-narratief

De vijf belangrijkste risico's

AVG en AI Act: de lat ligt hoger dan in de VS

Architectuurprincipes voor veilige inzet

Minimale DPIA-vragenlijst

Besliskader: vijf gates voor go/no-go

Strategische conclusie