Priva-See: Hoe AI-analyse van smartphone-data de bereidheid tot permissies ondermijnt

Smartphones zijn de meest intieme datacollectiepunten die we dagelijks gebruiken. Foto's, locatiegeschiedenis, agenda's, inboxen en app-gebruik bevatten samen een gedetailleerd portret van wie we zijn. Traditioneel was de privacydreiging beperkt tot het verzamelen van gestructureerde data zoals GPS-coördinaten of bezochte URLs. Maar met de opkomst van multimodale large language models verandert dat radicaal. Een foto of een ongestructureerde tekst is nu even waardevol als een volledig profiel.

Het paper Privacy Leakage Through AI-mediated Analysis of Smartphone Data (Radway et al., Harvard University & Carnegie Mellon University, 2026) legt dit mechanisme bloot met een systematisch gebruikersonderzoek. De auteurs bouwden Priva-See, een LLM-gebaseerd inferentiesysteem dat de best practices van advertentietechnologie nadoet om profielen op te bouwen uit app-verzamelde data. Het resultaat is ontnuchterend: zelfs met toegang tot slechts een subset van de beschikbare data genereerde het systeem privacy-invasive inferenties over gezondheid, locatie en gedrag.

Priva-See: inferentiesysteem als realistische dreiging

Priva-See is niet een theoretisch model. Het is een volledig werkend systeem dat op de telefoons van 465 deelnemers draaide. Het onderzoek was goedgekeurd door een Institutional Review Board (IRB), wat betekent dat ethische waarborgen en informed consent centraal stonden. Deelnemers wisten dat er een experiment plaatsvond, maar ervoeren wel de volledige reikwijdte van wat moderne AI kan afleiden uit data die ze eerder als relatief onschuldig hadden beschouwd.

Het systeem maakte gebruik van verschillende typen smartphone-data. Foto's leverden niet alleen pixels op, maar ook context over sociale relaties, leefstijl en gezondheidstoestand. Agenda-data onthulden patronen in werk en privé, terwijl locatiegeschiedenis directe en indirecte informatie gaf over woon-werkverkeer, frequente bezoeken aan medische of commerciële locaties, en sociale netwerken. De kernvinding is dat de combinatie van deze datapunten, zelfs wanneer geen enkel punt op zichzelf als bijzonder gevoelig wordt beschouwd, samen leidt tot een profiel dat vergelijkbaar is met wat adverteerders en datamakelaars jarenlang probeerden te bouwen.

De kwantitatieve impact: permissiebereidheid daalt significant

De onderzoekers maten niet alleen wat het systeem kon afleiden, maar ook hoe deelnemers reageerden na blootstelling aan hun eigen inferenties. De bereidheid om in de toekomst vergelijkbare permissies te verlenen daalde significant. Dit is een cruciale bevinding: gebruikers begrijpen de downstream-risico's van dataverzameling pas wanneer ze geconfronteerd worden met concrete, gepersonaliseerde voorbeelden van wat er uit hun data kan worden gehaald.

De daling in permissiebereidheid is geen abstract privacy-sentiment. Het is een gedragsmatige verandering die direct gevolgen heeft voor app-ontwikkelaars, platformeigenaren en overheden die apps aanbieden. Wanneer burgers eenmaal inzien wat er mogelijk is, verandert hun calculus van gemak versus risico.

DPIA-implicatie: van advertentietech naar overheidsapps

De methodiek en bevindingen van Priva-See zijn direct vertaalbaar naar de publieke sector. Overheden ontwikkelen en gebruiken steeds vaker smartphone-apps voor burgerservice, identificatie, gezondheid en participatie. Deze apps verzamelen vaak dezelfde categorieën data als commerciële apps: locatie, camera, agenda, notificaties en app-gebruik.

Voor elk van deze apps geldt dat een Data Protection Impact Assessment (DPIA) verplicht is wanneer geautomatiseerde verwerking op grote schaal plaatsvindt, bijzonder wanneer die verwerking profilering of monitoring van gedrag mogelijk maakt. Artikel 35 van de GDPR vereist een DPIA voor verwerkingen die "waarschijnlijk een hoog risico inhouden voor de rechten en vrijheden van natuurlijke personen". Artikel 5, lid 1, onder c, stelt het beginsel van data-minimalisatie: persoonsgegevens moeten adequat, relevant en beperkt zijn tot wat noodzakelijk is voor de doeleinden waarvoor ze worden verwerkt.

Priva-See demonstreert exact waarom dit beginsel niet alleen een theoretische waarborg is. Een app die volgens haar privacybeleid alleen toegang vraagt tot "noodzakelijke gegevens voor de dienstverlening" kan via LLM-gebaseerde inferentie gegevens genereren die ver buiten het oorspronkelijke doel vallen. De vraag die een DPIA moet beantwoorden is daarom niet langer "welke data verzamelen we?", maar "welke inferenties zijn mogelijk uit de data die we verzamelen, inclusief via AI-gemedieerde analyse?"

Artikel 22: geautomatiseerd besluitvorming als verborgen risico

Een specifieke GDPR-risicocategorie die dit onderzoek raakt is artikel 22, dat betrekking heeft op geautomatiseerde individuele besluitvorming. Hoewel Priva-See expliciet is gebouwd als profileringstool en niet als besluitvormend systeem, toont het onderzoek hoe snel de grens tussen analyse en actie vervaagt. Een profiel dat gezondheidsrisico's, financiële kwetsbaarheid of politieke voorkeuren afleidt uit smartphone-data, kan direct worden ingezet voor gepersonaliseerde besluitvorming door zowel private als publieke actoren.

De combinatie van artikel 5 (minimalisatie), artikel 22 (geautomatiseerde besluitvorming) en artikel 35 (DPIA) creëert een juridisch kader dat de meeste huidige app-privacybeleidsregels en consent-mechanismen niet adequaat adresseren. Gebruikers worden gevraagd om toestemming te geven voor "toegang tot foto's", niet voor "toegang tot inferenties over mijn gezondheid en leefstijl via AI-analyse van die foto's".

Praktische consequenties voor ontwikkelaars en beleidsmakers

Radway et al. suggereren aanpassingen in de manier waarop smartphone-besturingssystemen toestemming vragen voor data-access. In plaats van een binaire keuze voor "foto's aan/uit", zou het OS gebruikers moeten informeren over de downstream-analysecapabiliteiten die toegang tot die foto's mogelijk maakt.

Voor ontwikkelaars van overheidsapps betekent dit dat privacy-by-design geen vervolgstap is na de functionele bouw, maar een integraal onderdeel van de architectuur. Dit omvat:

• Data-minimalisatie op inferentieniveau: beperk niet alleen de ruwe data, maar ook de inferentiemogelijkheden door restricties in de app-architectuur.
• Transparante consent: informeer gebruikers over AI-gebaseerde analyse, niet alleen over dataverzameling.
• Periodieke her-evaluatie: een DPIA is geen eenmalig document maar een levend proces, met name wanneer de onderliggende AI-modellen evolueren.

Zakelijke kans: DPIA en privacy-by-design

Organisaties die apps ontwikkelen voor de publieke sector of die interne mobiele tools gebruiken voor medewerkers, kunnen met een gerichte engagement de risico's uit dit onderzoek vertalen naar concrete verbeteringen. Een DPIA-review en privacy-by-design traject voor een bestaande of geplande app, inclusief een threat-model voor AI-gemedieerde inferenties, ligt typisch tussen €20.000 en €45.000. Deze investering is marginaal vergeleken met het risico van een toezichthouder die een inadequate DPIA constateert, of het reputatieschade na een data-incident dat via inferenties tot stand kwam.

Conclusie

Priva-See bewijst dat de grenzen van privacy-lekkage ver zijn verlegd. Het is niet meer de vraag of een app te veel data verzamelt, maar welke profielen uit die data kunnen worden gedestilleerd door systemen die de gebruiker zelf nooit ziet. Met 465 deelnemers en IRB-goedgekeurde methodiek biedt het onderzoek een empirisch onderbouwde basis om het gesprek over app-permissies en DPIA's te heroriënteren. De vraag is niet meer of gebruikers hun data beschermen, maar of ze begrijpen wat er met die data mogelijk is.

Referenties

Radway, S., Robert, Z., Soto, M., Cimillo, J., Diaz, S., Marco, M. & Mickens, J. (2026). Privacy Leakage Through AI-mediated Analysis of Smartphone Data. arXiv:2609.28537. Harvard University & Carnegie Mellon University.