Authoritarianism by Design: Wat de EU AI Act Voorkomt - en Wat Niet

Hier ga ik eerlijk over zijn: ik dacht dat dit paper over China zou gaan. De titel, "From Democracies to Autocracies: How AI Systems Enable Authoritarianism by Design", klinkt als een aanklacht tegen surveillance-staten. En dat is het ook. Maar de ongemakkelijke waarheid die Sania, Ziosi en Barez blootleggen is dat dezelfde patronen bestaan in systemen die in democratieën draaien.

Het paper analyseert zes AI-systemen in verschillende politieke regimes, van de VS tot China. De methode is grondig: academische publicaties, onderzoeksjournalistiek, third-party evaluaties, media-interviews, overheidsaanbestedingen. Geen opinie, systeemanalyse.

Vier ontwerpfouten die autoritarisme mogelijk maken

De auteurs identificeren vier terugkerende patronen:

1. Centralisatie van administratieve data voor handhaving. Wanneer data die bedoeld is voor dienstverlening wordt hergebruikt voor opsporing en politieke druk, ontstaat een machtsinstrument. Dit gebeurt niet alleen in Peking, ook in westerse steden waar parkeerdata, uitkeringsdata en camerabeelden worden samengevoegd in één AI-platform.

2. Regulatory gaps die misbruik niet afschrikken. De paper wijst op situaties waar wetgeving bestaat maar handhaving ontbreekt, of waar de reikwijdte van de wet bewust smal is gehouden. Denk aan systemen die net buiten de definitie van "high-risk AI" vallen onder de EU AI Act.

3. Zwakke user compliance die human oversight uitholt. Het patroon is herkenbaar: een systeem heeft formeel een "human in the loop," maar in de praktijk klikt de operator blind op "akkoord" omdat de werkdruk te hoog is of de output te overtuigend. De paper noemt dit "weak user compliance", en het is universeel.

4. Encoding van beschermde groepskenmerken. AI-systemen die expliciet of impliciet kwetsbare bevolkingsgroepen identificeren, via postcode, uitkeringspatroon, of taalgebruik, en die categorisering gebruiken voor gedifferentieerde behandeling.

Het governance-gat in democratieën

De meest verontrustende bevinding is niet dat autocratieën AI misbruiken. Dat wisten we. Het is dat dezelfde mechanismen bestaan in democratische systemen, maar via een ander pad.

In autocratieën is het patroon: gecentraliseerde systemen, aangestuurd door uitvoerende macht, vaak binnen veiligheids- en militaire instituties, zonder formeel toezicht. In democratieën is het patroon subtieler: gefragmenteerde systemen waarbij verantwoordelijkheid diffuus wordt tussen stakeholders. Niemand is eindverantwoordelijk, dus niemand grijpt in.

Dit is precies het probleem dat ik zie bij Nederlandse decentrale overheden. Een gemeente koopt een AI-systeem voor handhaving. De leverancier zegt "wij leveren alleen de techniek." De gemeente zegt "wij volgen het beleid van de leverancier." De burger valt tussen wal en schip.

Wat de EU AI Act wél stopt

De AI Act is geen papieren tijger. Artikel 5 verbiedt expliciet AI-systemen die kwetsbaarheden van personen uitbuiten, social scoring door overheden, en real-time biometrische identificatie in de openbare ruimte. Artikel 6 classificeert systemen in rechtshandhaving, migratie en kritieke infrastructuur als high-risk, met verplichte conformity assessments.

De vier patronen uit het paper raken direct aan deze artikelen. Centralisatie van data voor handhaving? Art. 5. Encoding van beschermde groepskenmerken? Art. 10 (data governance) vereist bias-detectie en correctie. Zwakke human oversight? Art. 14 schrijft voor dat menselijk toezicht "meaningful" moet zijn, niet symbolisch.

Wat de AI Act niet stopt

Maar het paper laat ook zien waar de AI Act tekortschiet. Gefragmenteerde systemen met diffuse accountability, het democratische patroon, vallen vaak tussen de mazen. Een systeem dat net onder de high-risk drempel blijft, of dat wordt ingezet door een samenwerkingsverband van gemeenten zonder duidelijke eindverantwoordelijke, ontsnapt aan het conformity assessment.

De paper noemt dit "governance gaps", en de EU AI Act dicht ze niet allemaal. De verantwoordelijkheid ligt uiteindelijk bij de lidstaten om de implementatie aan te scherpen. Nederland heeft daar een kans: de Algoritmewet (in voorbereiding) kan specifiek eisen stellen aan transparantie en accountability bij decentrale overheden.

Wat dit betekent voor de Nederlandse publieke sector

Voor CIO's en compliance officers bij gemeenten, ministeries en ZBO's is dit paper verplichte kost. Niet omdat het leuk is, maar omdat het een systematisch kader biedt om te beoordelen of een AI-systeem "authoritarianism by design" kenmerken heeft.

Drie vragen die je over elk AI-systeem moet stellen:

1. Wordt administratieve data hergebruikt voor een ander doel dan waarvoor het is verzameld?
2. Is er een mens die betekenisvol kan ingrijpen, niet alleen op papier, maar in de praktijk?
3. Is er één aanwijsbare eindverantwoordelijke, of is de accountability diffuus?

Als het antwoord op vraag 1 "ja" is, of op vraag 2 of 3 "nee", dan heb je een governance-gap. En de EU AI Act alleen gaat die niet voor je dichten.

---

Bron: Sania, J., Ziosi, M., & Barez, F. (2026). From Democracies to Autocracies: How AI Systems Enable Authoritarianism by Design. arXiv:2606.17286. https://arxiv.org/abs/2606.17286