De 44 compliance-verplichtingen die de Nederlandse overheid stelt aan LLM-inzet

De Nederlandse overheid stelt steeds concreter welke eisen gelden bij het inzetten van large language models (LLM's) om vakkennis te ontsluiten. De Adviesfunctie Verantwoord Datagebruik, opgezet vanuit het programma Realisatie Interbestuurlijke Datastrategie (IBDS), heeft in samenwerking met Pels Rijcken en Highberg een handreiking opgesteld met 44 concrete aandachtspunten. Deze aandachtspunten leggen de juridische en ethische randvoorwaarden vast voor de ontwikkeling en het gebruik van een minimum viable product (MVP) waarmee overheidsambtenaren vakkennis kunnen doorzoeken en bevragen vanuit één kanaal.

Deze handreiking is geen abstract kader. Het is een operationele compliance-checklist die elke overheidsorganisatie (ministerie, zelfstandig bestuursorgaan, gemeente, semipublieke instelling) in de praktijk moet doorlopen zodra zij een LLM-toepassing bouwt of inzet. De handreiking is opgesteld in samenwerking met de landsadvocaat en vormt daarmee de formele referentie waartegen een generatieve-AI-implementatie in de publieke sector wordt getoetst.

Het MVP: een gesloten Azure OpenAI-toepassing

De gebruikte use case betrof een MVP met drie functionaliteiten:

1. snel en slim doorzoeken van grote hoeveelheden broninformatie;
2. automatisch genereren van samenvattingen;
3. AI-geleide beantwoording van vragen met bronverwijzing.

De back-end draait op Microsoft Azure met een gesloten Azure OpenAI-omgeving (LLM, maximaal 100 woorden, Nederlands), Azure Search en een API die back-end en front-end verbindt. Omdat het MVP gebruikmaakt van een gesloten Azure OpenAI-omgeving, blijven de data binnen de omgeving.

Deel 1: Juridische aandachtspunten

Hoofdstuk 2: het gebruik van generatieve AI binnen de Nederlandse overheid

De handreiking begint met een onontkoombare constatering: aan het gebruik van generatieve AI-modellen zoals de LLM's van OpenAI kleven juridische uitdagingen die primair liggen op het terrein van de ontwikkelaar van het model, en die niet volledig door de gebruiker kunnen worden weggenomen. Twee onzekerheden zijn structureel.

1. Privacy (AVG): het is niet zeker of de ontwikkelaar bij het trainen (bijzondere) persoonsgegevens heeft gebruikt en of daarvoor een grondslag bestond. De opdrachtgever is verwerkingsverantwoordelijke voor de gebruiksfase en moet een adequate beoordeling uitvoeren om de naleving van artikel 5, eerste lid, onderdeel a, en artikel 6 AVG aan te tonen.
2. Auteursrecht: het is niet zeker of de ontwikkelaar bij het trainen gegevens heeft gebruikt waarvan de auteursrechten bij derden rusten.

Aandachtspunt 1: verkrijg een garantie van de modelaanbieder dat het gebruik geen inbreuk maakt op het privacyrecht en de auteursrechten van derden. Aandachtspunt 2: realiseer een technische scheiding tussen het generatieve AI-model en de laag die de opdrachtgever zelf ontwikkelt, zodat de opdrachtgever geen medeverwerkingsverantwoordelijke wordt voor de persoonsgegevens die vermoedelijk bij de training van het basismodel zijn gebruikt.

Hoofdstuk 3: Algemene beginselen van behoorlijk bestuur (abbb's)

De opdrachtgever moet zich bij de ontwikkeling en het gebruik van AI-toepassingen laten leiden door de algemene beginselen van behoorlijk bestuur uit de Algemene wet bestuursrecht (Awb). Drie beginselen zijn relevant.

• Het formele zorgvuldigheidsbeginsel (artikel 3:2 Awb): de data die het MVP gebruikt, moeten actueel en juist zijn, geschikt voor het beoogde doel en representatief, zonder bias die kan leiden tot discriminatie.
• Het zorgvuldigheidsbeginsel en het evenredigheidsbeginsel (artikel 3:4 Awb): de nadelen van het handelen mogen niet onevenredig zijn in verhouding tot de te dienen doelen.
• Het motiveringsbeginsel (artikel 3:46 Awb): hoewel niet van toepassing op feitelijk handelen, moet het MVP wel voldoen aan de transparantieverplichting.

De abbb's zijn van toepassing op besluiten van bestuursorganen en, via artikel 3:1, tweede lid, Awb, ook op andere handelingen van bestuursorganen dan besluiten. Het MVP heeft een puur informatief karakter en levert geen besluit op. De informatieverstrekking is daarom een feitelijke handeling.

In dit hoofdstuk staan zestien van de vierenveertig aandachtspunten, van nummer 3 tot en met nummer 18. Ze gaan over de betrouwbaarheid van de broninformatie, de inrichting van de toepassing, de transparantie over de werking en de monitoring in de praktijk. Een overheidsorganisatie moet hierover per punt een expliciete keuze maken en die keuze motiveren.

Hoofdstuk 4: Intellectueel eigendomsrecht

De handreiking besteedt aandacht aan auteursrecht en databankenrecht. De kernvraag is of auteursrechtelijke beschermde werken worden verveelvoudigd of openbaar gemaakt tijdens de inputfase (het trainen) en de outputfase (het genereren). Het werkbegrip is geharmoniseerd op Europees niveau: een werk moet voldoende nauwkeurig en objectief te identificeren zijn en oorspronkelijk zijn. In de outputfase kan een LLM beschermde werken als output genereren, wat een verveelvoudiging of openbaarmaking kan opleveren. Het databankenrecht beschermt de investering in een databank.

Hoofdstuk 5: Privacyrecht (AVG)

De handreiking behandelt de AVG opgesplitst in een inputfase (het trainen) en een outputfase (het genereren).

Inputfase:

• Verwerkingsverantwoordelijkheid (artikelen 5, tweede lid, en 24 AVG): de opdrachtgever is verantwoordelijk voor de gebruiksfase. Het onderscheid tussen het basismodel en de eigen laag is cruciaal om te voorkomen dat de opdrachtgever medeverwerkingsverantwoordelijke wordt voor de trainingsdata van het basismodel.
• Grondslagvereiste (artikel 6 AVG): de opdrachtgever moet een grondslag hebben, zoals een publiekrechtelijke taak. De grondslag moet opnieuw worden beoordeeld bij een wijziging van het doel of van de verwerkingsverantwoordelijkheid.
• Verbod op bijzondere persoonsgegevens (artikel 9 AVG): het verbod geldt voor gegevens over bijvoorbeeld ras, politieke opvattingen, religie en gezondheid; de uitzonderingen zijn zeldzaam. De handreiking adviseert om bijzondere persoonsgegevens zoveel mogelijk te vermijden.
• Transparantievereiste (artikelen 12, 13 en 14 AVG): artikel 14 is in het bijzonder van toepassing bij webscraping. De European Data Protection Board (EDPB) beveelt mitigerende maatregelen aan: het uitsluiten van gevoelige gegevens en bronnen, het respecteren van robots.txt en ai.txt, het beperken van de tijdsperioden en een opt-out-lijst.
• Dataminimalisatie (artikel 5, eerste lid, onder c, AVG): beperk de omvang, het detail en het aantal betrokkenen. Technieken zoals federated learning, anonimisering en pseudonimisering kunnen daarbij helpen.

Outputfase:

• Verwerkingsverantwoordelijkheid bij de output: de gebruiker die prompts met persoonsgegevens invoert is verantwoordelijk voor die invoer; de opdrachtgever is in beginsel verantwoordelijk voor de gegenereerde persoonsgegevens als output. Voor de monitoring na de implementatie bepaalt de opdrachtgever het doel en de middelen.
• Juistheidsvereiste (artikel 5, eerste lid, onder d, AVG): AI-hallucinaties bedreigen de juistheid van persoonsgegevens. Het MVP moet meet-, opschoon- en opspoorbaarheidstechnieken toepassen en kunnen aangeven dat de data onvoldoende zijn.
• Rechten van betrokkenen (artikelen 16, 17 en 21 AVG): correctie, wissing en bezwaar. Privacy by design (artikel 25) is essentieel, want persoonsgegevens kunnen zo verweven zijn met het model dat verwijdering zonder het model te beschadigen niet mogelijk is.
• Data Protection Impact Assessment (artikel 35 AVG): verplicht bij een hoog risico, zoals een systematische beoordeling, een grootschalige verwerking van bijzondere gegevens of stelselmatige monitoring. De EDPB noemt negen criteria. Als het MVP uitsluitend als zoekmachine functioneert, levert dat waarschijnlijk geen hoog risico op, maar de weigering om een DPIA uit te voeren moet worden gedocumenteerd.

Hoofdstuk 6: AI-verordening

De AI-verordening (Verordening EU 2024/1689) is op 13 juni 2024 gepubliceerd en is sinds 2 februari 2025 gefaseerd in werking getreden. Voor het MVP geldt het volgende.

• Het MVP is niet verboden op grond van artikel 5 (verboden AI-praktijken).
• Het MVP is waarschijnlijk geen hoogrisico AI-systeem (bijlage III). De gebruikte LLM's van derden (Azure OpenAI) kwalificeren als een AI-systeem voor algemene doeleinden; de opdrachtgever levert alleen door derden ontwikkelde modellen en hoeft daarom (nog) niet te voldoen aan de eisen voor systemen voor algemene doeleinden. Dit verandert zodra de overheid een eigen AI-model gaat trainen.
• De opdrachtgever moet transparant zijn over de aard van het MVP (artikel 50, eerste en vierde lid): de gebruikers moeten weten dat ze met een AI-systeem te maken hebben, en bij publicatie van teksten over een algemeen belang moet worden vermeld dat de tekst kunstmatig is gegenereerd.

Als het MVP alsnog als hoogrisico-systeem wordt aangemerkt, geldt de volledige set eisen: een risicobeheersysteem (artikel 9), datakwaliteit (artikel 10), technische documentatie (artikel 11), logging (artikel 12), transparantie (artikel 13), menselijk toezicht (artikel 14), nauwkeurigheid, robuustheid en cyberveiligheid (artikel 15), kwaliteitsbeheer, het EU-register en een beoordeling van de gevolgen voor de grondrechten (artikel 27).

Deel 2: Ethische aandachtspunten

De ethische analyse is uitgevoerd met de Aanpak Begeleidingsethiek, een kader dat is ontwikkeld door ECP, waarin belanghebbenden in dialoog gaan over impact en waarden. De positieve effecten zijn efficiëntie, toegankelijkheid van kennis en een onderbouwd beleid. De negatieve effecten omvatten over-reliance, kennisverlies bij ambtenaren, verlies van de kritische blik, hallucineerende AI, verloren gaande minderheidsstandpunten, afhankelijkheid van Big Tech en een ontmenselijking van de overheid.

De kernconclusie van de ethische analyse is dat er geen grote ethische bezwaren zijn, maar wel een centraal risico rond de menselijke maat. Naarmate technische hulpmiddelen een grotere rol spelen, neemt de vrijheid af die ambtenaren voelen om van de uitkomsten af te wijken en maatwerk te leveren. Ambtelijk vakmanschap kan onder druk komen te staan. De handreiking adviseert om ambtenaren te trainen, richting te geven aan het gewenste gebruik en te voorkomen dat de inzet leidt tot een tweedeling op de werkvloer.

De 44 aandachtspunten als compliance-checklist

Dit is de kern van de handreiking: 44 concrete, operationele verplichtingen die de opdrachtgever moet doorlopen. Voor een overheidsorganisatie die een LLM-toepassing wil inzetten, is dit de definitieve checklist. De punten 1 tot en met 38 zijn juridisch van aard (hoofdstukken 2 tot en met 6); de punten 39 tot en met 44 betreffen de ethische invulling (hoofdstuk 7).

Hoofdstuk 2 - de modelaanbieder en de technische scheiding (punten 1 en 2):

1. Verkrijg een garantie van de modelaanbieder dat het gebruik geen inbreuk maakt op het privacyrecht en de auteursrechten van derden.
2. Realiseer een technische scheiding tussen het basismodel en de zelf ontwikkelde laag om geen medeverwerkingsverantwoordelijke te worden voor de trainingsdata.

Hoofdstuk 3 - de beginselen van behoorlijk bestuur (punten 3 tot en met 18):

3. Zorg dat de broninformatie compleet, actueel en juist is.
4. Leg vast welke datasets zijn gebruikt en welke maatregelen zijn getroffen.
5. Stel vast of Microsoft Azure OpenAI en Azure AI Search geschikt zijn voor de beoogde toepassing.
6. Betracht de behoorlijke zorgvuldigheid bij de inrichting en motiveer de keuzes.
7. Zorg voor transparantie over de gebruikte indicatoren.
8. Borg de robuustheid en de cyberveiligheid.
9. Verifieer dat het MVP de verwachte antwoorden geeft.
10. Voer een risicoanalyse uit.
11. Stel een monitorprotocol op en voer het uit.
12. Actualiseer de risicoanalyse bij wijzigingen.
13. Informeer de gebruikers over de mogelijkheden en de beperkingen van de AI.
14. Train de gebruikers in een verantwoord gebruik.
15. Stel vast wie verantwoordelijk is voor de werking van de toepassing.
16. Borg de resultaten van de kwaliteitscontrole en de monitoring.
17. Leg de afwegingen over de beginselen schriftelijk vast.
18. Zorg dat de functie onafhankelijk kan worden gecontroleerd.

Hoofdstuk 4 - intellectuele eigendomsrechten (punten 19 tot en met 22):

19. Inventariseer of tijdens de inputfase auteursrechtelijke werken worden gebruikt.
20. Beoordeel of tijdens de outputfase beschermde werken worden verveelvoudigd of openbaar gemaakt.
21. Onderzoek het databankenrecht op de gebruikte bronnen.
22. Leg contractueel vast wie de intellectuele eigendomsrechten op de output verkrijgt.

Hoofdstuk 5 - privacyrecht en AVG (punten 23 tot en met 35):

23. Bepaal wie verwerkingsverantwoordelijke is en leg de rolverdeling vast.
24. Verzeker dat er een grondslag bestaat en dat de doelbinding is geborgd.
25. Voorkom de verwerking van bijzondere persoonsgegevens.
26. Informeer de betrokkenen over de verwerking.
27. Borg de datakwaliteit en de dataminimalisatie.
28. Waarschuw de gebruikers over de prompts met persoonsgegevens.
29. Voorkom dat de toepassing persoonsgegevens als output verstrekt.
30. Voorkom dat de output bijzondere persoonsgegevens bevat.
31. Borg de juistheid van de persoonsgegevens en tref maatregelen tegen hallucinaties.
32. Wees transparant over de totstandkoming van de output.
33. Waarborg de rechten van de betrokkenen op correctie, verwijdering en bezwaar.
34. Tref passende beveiligingsmaatregelen.
35. Voer een DPIA uit of documenteer de weigering.

Hoofdstuk 6 - AI-verordening (punten 36 tot en met 38):

36. Stel vast dat het MVP niet onder de verboden praktijken van artikel 5 valt.
37. Beoordeel of het MVP niet als een risicovol systeem wordt aangemerkt en de afweging wordt gedocumenteerd.
38. Informeer de gebruikers over het AI-gebruik en de oorsprong van de teksten.

Hoofdstuk 7 - de ethische invulling (punten 39 tot en met 44):

39. Richt de user interface zo in dat de mens de uitkomsten zelf beoordeelt.
40. Stel een vast aanspreekpunt in voor de ambtenaren.
41. Train de ambtenaren in het gewenste gebruik.
42. Leg de verantwoordelijkheid voor de inzet op een controleerbare plek.
43. Deel ervaringen en leerpunten om de toepassing te verbeteren.
44. Ontwikkel het profiel van de ambtenaar van de toekomst.

Wat dit betekent voor overheidsorganisaties

Deze handreiking is niet vrijblijvend. Het is een norm waartegen een LLM-toepassing in de Nederlandse overheid wordt beoordeeld. Voor elke overheidsorganisatie die vakkennis met een LLM wil ontsluiten, zijn er vier niet-onderhandelbare verplichtingen.

1. De garantie van de modelaanbieder: verkrijg schriftelijk dat het gebruik geen inbreuk maakt op privacy- en auteursrechten van derden. Dit is het belangrijkste aandachtspunt, want het verlegt een deel van de juridische risico's van de overheid naar de leverancier.
2. De verwerkingsverantwoordelijkheid als een architectuurkeuze: het onderscheid tussen het basismodel en de eigen laag bepaalt of de overheid medeverantwoordelijke wordt voor de trainingsdata. De technische scheiding is daarmee een juridische ontwerpkeuze.
3. Privacy by design vanaf de start: de rechten van de betrokkenen zijn soms onmogelijk te vervullen als de persoonsgegevens verweven zijn met het model. Privacy by design is daardoor een ontwerpprincipe, geen bijzaak.
4. De menselijke maat als ethische ijkpunt: het grootste risico is niet de technologie, maar de over-reliance, met verlies van ambtelijk vakmanschap en maatwerk als gevolg.

Beperkingen van de handreiking

• Eén use case: de handreiking is opgesteld voor een specifiek model en een opdrachtgever die één entiteit is. Bij een complexere toepassing moeten de rollen opnieuw worden bepaald.
• Eigen invulling van de beginselen: de handreiking erkent dat de vertaling van de techniek-onafhankelijke beginselen naar concrete maatregelen deels een eigen keuze van de adviseur is.
• Datering: de use case stamt uit 2024, terwijl de handreiking in 2026 is gepubliceerd. Onderdelen zoals de toepassing van de AI-verordening zijn inmiddels bijgesteld.

Conclusie

De handreiking van de Adviesfunctie Verantwoord Datagebruik is een handvat voor elke overheidsorganisatie die LLM's wil inzetten om vakkennis te ontsluiten. De 44 aandachtspunten dekken de juridische en ethische vereisten: de garantie van de modelaanbieder, het onderscheid tussen model en eigen laag, de AVG-verplichtingen (grondslag, dataminimalisatie, transparantie, de rechten van de betrokkenen en de DPIA), het auteurs- en databankenrecht, de beginselen van behoorlijk bestuur en de AI-verordening.

De kernles is dat compliance een volledige operationele verantwoordelijkheid over de gehele modelketen is, van de trainingsdata van de aanbieder tot de prompts van de eindgebruiker. Het grootste risico is niet de technologie, maar de ambtenaar die de output te gemakkelijk overneemt, met verlies van ambtelijk vakmanschap als gevolg. De menselijke maat blijft daarmee de norm, en die norm maakt de handreiking concreet en controleerbaar.