Ga naar hoofdinhoud
← Terug naar blog

AI vindt kwetsbaarheden, maar verifiëren en herstellen blijft mensenwerk

AI Security

De kern

Kunstmatige intelligentie maakt het vinden van kwetsbaarheden goedkoop en snel, maar het verifiëren en herstellen blijft mensenwerk. Een pilot van GitHub en Microsoft bevestigt dit met cijfers: duizenden ruwe AI-bevindingen zijn teruggebracht tot 99 gecontroleerde, private rapporten voor zes open-sourceprojecten, waarvan er 55 al zijn hersteld en 14 in een release zijn opgenomen. De assurance zit niet in de scanner maar in de menselijke verificatielaag: zeven onderzoekers die elke bevinding handmatig controleerden, circa twee dagen per project. Voor een organisatie die onder NIS2 en BIO2 afhankelijk is van open source is de les concreet: een scanner die ruwe bevindingen produceert is een last, geen oplossing. Wat telt is het geverifieerde herstel, en dat blijft oordeelswerk.

Wat de pilot aantoont en het mechanisme

De aanleiding is een structurele asymmetrie. AI heeft het vinden van mogelijke kwetsbaarheden goedkoop gemaakt, maar herstellen vereist menselijk oordeel, en in open source valt dat werk bij maintainers. Zij worden overspoeld met AI-gegenereerde bevindingen, inclusief duplicaten en meldingen die geen kwetsbaarheid blijken. De stelling van het blog: wie een nieuw model op een project loslaat, moet eerst de maintainers vragen en komen met herstel, niet alleen met bevindingen.

De pilot, onder de naam Codename MDASH, testte of AI maintainers kan helpen met herstel in plaats van met meer bevindingen. Het proces bestaat uit vijf stappen die de verantwoordelijkheid expliciet scheiden:

  1. Vinden: het multi-model scanning-systeem MDASH van Microsoft Security scant elk project met het MAI Cyber-model en stelt herstel voor.
  2. Filteren: een AI-triage-agent van het GitHub Security Lab verwijdert duplicaten, controleert de geldigheid en richt zich op impactvolle bugs, zodat de maintainer nooit ruwe scanresultaten hoeft te beoordelen.
  3. Verifiëren: onderzoekers van Microsoft FORGE Lab controleren elke overblijvende bevinding handmatig.
  4. Privé melden: rapporten bereiken maintainers via private vulnerability reporting, met een proof-of-concept en een voorgesteld herstel.
  5. Herstellen: de maintainer beslist wat, hoe en wanneer er wordt hersteld.

Het resultaat is meetbaar. MDASH vlagde duizenden mogelijke problemen over zes projecten. Na AI-triage en handmatige controle door zeven FORGE-onderzoekers kregen maintainers 99 private rapporten. Op 15 november hadden zij er 55 hersteld, waarvan 14 al in een release zaten.

De zes deelnemende projecten zijn AutoGPT, Caddy, Express, FastMCP, ImageMagick en Netty. De snelheid van herstel verschilt per project, maar de richting is eenduidig. Caddy herstelde alle 22 ontvangen rapporten binnen een week. AutoGPT kreeg drie dagen na een kapotte nieuwe check een rapport dat naar de juiste regel wees, schreef het herstel binnen een dag en had het binnen een week in productie. ImageMagick, onderhouden door een tweepersoonsteam, herstelde één bevinding in vijftien minuten waar een regulier advies normaal dertig minuten tot een uur kost.

De kern van het mechanisme is de scheiding tussen detectie, verificatie en herstel. De scanner detecteert, de mens verifieert, de maintainer herstelt. Geen van de drie mag door een ander worden overgenomen. Het codevoorbeeld hieronder maakt die scheiding expliciet als een verifieerbare gate.

from dataclasses import dataclass

@dataclass
class Bevinding:
    identificatie: str
    geen_duplicaat: bool          # geen bekende issue
    binnen_dreigingsmodel: bool   # past in het dreigingsmodel van het project
    menselijk_geverifieerd: bool  # handmatig gecontroleerd door een onderzoeker

def meldingswaardig(b: Bevinding) -> bool:
    """Een bevinding bereikt de maintainer alleen als ze de verificatielaag passeert."""
    return b.geen_duplicaat and b.binnen_dreigingsmodel and b.menselijk_geverifieerd

De complexiteit verklaart waarom de mens de bottleneck is. Detectie kost per bevinding O(1), en duizenden bevindingen zijn goedkoop. Verificatie kost daarentegen minuten per bevinding en dagen per project: zeven onderzoekers maal twee dagen per project is circa veertien persoonsdagen per project, en dat schaalt niet. Het knelpunt is niet de rekenkracht maar de beschikbare menselijke oordeelstijd.

Alternatieve verklaringen

De gemeten uitkomst, 99 rapporten en 55 herstellingen, staat vast, maar de oorzaak kent drie materieel verschillende verklaringen die elk een andere conclusie dragen.

De eerste verklaring is dat de resultaten niet door de verificatielaag komen maar door de kwaliteit van de geselecteerde projecten. De zes projecten zijn alumni van het GitHub Secure Open Source Fund, dus al geselecteerd op beveiligingsvolwassenheid en onderhoudscapaciteit. Een minder volwassen project met een overbelaste maintainer zou dezelfde rapporten mogelijk niet zo snel herstellen. De toets die dit onderscheidt, is een herhaling van de pilot op niet-geselecteerde projecten; die is niet uitgevoerd.

De tweede verklaring is dat het succes een vendor-framing is. GitHub en Microsoft rapporteren over hun eigen pilot, met citaten van maintainers die zij hebben geselecteerd, en de cijfers zijn zelf-gerapporteerd zonder onafhankelijke audit. Deze verklaring is ernstig, want de headline, duizenden bevindingen teruggebracht tot 99, is alleen te verifiëren tegen de interne telmethodiek van de auteurs. De onderscheidende toets is een onafhankelijke reproduceerbaarheid van dezelfde scan, die niet wordt geboden.

De derde verklaring is dat de verandering niet in de technologie zit maar in het gedrag. De pilot verplichtte de zender om te verifiëren vóór melding, en dat is een procesdiscipline die ook zonder AI werkt. Een menselijk pentest-team dat dezelfde discipline toepast, elke bevinding controleert, privé meldt en herstel levert, zou een vergelijkbaar resultaat kunnen bereiken. De toets die dit onderscheidt, is een vergelijking tussen MDASH en een puur menselijk team op dezelfde projecten; die ontbreekt.

Wat deze conclusie zou weerleggen

De centrale conclusie, dat de assurance in de menselijke verificatielaag zit en niet in de scanner, kent twee falsificatiecriteria. Ten eerste een meetstudie die aantoont dat een AI-scanner zonder menselijke verificatie een vergelijkbaar herstelpercentage bereikt, dat wil zeggen dat ruwe bevindingen direct tot correcte herstellingen leiden zonder valse positieven. Ten tweede een aanwijzing dat de menselijke verificatielaag op grote schaal weggeautomatiseerd kan worden zonder kwaliteitsverlies, wat de stelling dat verifiëren mensenwerk blijft zou ondermijnen.

Een tegenfeitelijke toets maakt de claim scherper. Wat als de pilot de handmatige verificatiestap had weggelaten en de duizenden bevindingen rechtstreeks uit de scanner had gepubliceerd? Dan waren maintainers opnieuw overspoeld met ongeldige en dubbele bevindingen, precies het probleem dat de pilot wilde oplossen, en zou het herstelpercentage vrijwel zeker dalen omdat maintainers eerst de ruis zouden moeten uitfilteren. De verificatielaag is niet een administratieve stap maar de voorwaarde waaronder herstel mogelijk wordt.

Beperkingen van deze analyse

De bron noemt zelf dat zes projecten een kleine steekproef is en dat de lessen als vroeg geleerde lessen moeten worden gelezen, niet als bewezen generalisatie. De zeven onderzoekers besteedden circa twee dagen per project aan handmatige controle, en de auteurs stellen expliciet dat dit werk nog niet schaalt. De cijfers zijn zelf-gerapporteerd door GitHub en Microsoft en de citaten van maintainers zijn door hen geselecteerd; er is geen onafhankelijke audit van het aantal bevindingen, het aantal valse positieven of de juistheid van de herstellingen.

Onzeker blijft of de bevinding generaliseert naar de Nederlandse publieke sector, waar de afhankelijkheid van open source groot is maar de beveiligingsprocessen anders zijn georganiseerd. Express, Netty, Caddy en ImageMagick draaien in talloze Nederlandse systemen, maar de pilot is uitgevoerd op projecten met internationale, deels betaalde maintainersteams. Wie het herstelpercentage van 55 op 99 als algemeen cijfer overneemt voor de eigen omgeving, overclaimt.

De Nederlandse consequentie

Voor een Nederlandse organisatie die open source gebruikt, heeft dit directe consequenties voor de toeleveringsketen-verplichting en het kwetsbaarhedenbeheer onder NIS2 en BIO2. Neem een uitvoeringsorganisatie of gemeente die een webdienst draait op Express of Netty. Het installeren van een AI-scanner die bevindingen produceert, voldoet niet aan de verplichting om de toeleveringsketen te beveiligen en kwetsbaarheden te beheren; die verplichting wordt pas geraakt wanneer een bevinding is geverifieerd tegen het eigen dreigingsmodel en vervolgens hersteld of bewust geaccepteerd.

De implicatie die de bron niet rechtstreeks trekt: de pilot maakt van verificatie een eersteklas bestuurlijke verantwoordelijkheid. NIS2 artikel 21 lid 2 verlangt onder d de beveiliging van de toeleveringsketen en onder e de respons op en bekendmaking van kwetsbaarheden; BIO2 volgt daarin de ISO-beheersmaatregelen 8.8 (beheer van technische kwetsbaarheden) en 5.19 tot en met 5.22 (leveranciersrelaties). Het onderscheid tussen een ruwe scannerbevinding en een geverifieerd, hersteld lek is dan geen academisch detail maar een aantoonbaarheidsvraag. Een CISO die bij een audit alleen scannerdekking kan tonen, toont detectie aan, niet beheer. Drie controles maken dit operationeel:

  1. Verificatie als verplichte stap. Elke bevinding die in het beheerproces binnenkomt, moet expliciet zijn gecontroleerd tegen het dreigingsmodel en de beveiligingspolicy van het project, met een traceerbare goedkeuring door een mens. Een scanner die direct in het ticket-systeem schrijft zonder deze stap, creëert ruis.

  2. Herstel als de enige gesloten status. De metriek van het kwetsbaarhedenbeheer is niet het aantal gevonden kwetsbaarheden maar het aantal geverifieerde, herstelde of bewust geaccepteerde kwetsbaarheden. Een dashboard dat alleen open bevindingen telt, meet de last, niet de uitkomst.

  3. Een escalatiepad voor afhankelijkheden waarvan u geen maintainer kunt bereiken. De pilot werkt alleen omdat maintainers meewerken; bij projecten zonder actieve maintainer is er niemand die het voorgestelde herstel samenvoegt. Voor zulke afhankelijkheden is een eigen fork of een vervangende component de enige beheersmaatregel, en dat moet vooraf zijn beslist, niet tijdens een incident.

Zie ook

Bronnen

  1. Maintainers don't need more AI bug reports. They need fixes., Ashley Wolf en Gregg Cochran, GitHub Blog, 17 november 2026
  2. Richtlijn (EU) 2022/2555 (NIS2), Publicatieblad van de Europese Unie

AI & Security Intelligence

Wekelijkse nieuwsbrief met AI updates, security alerts en compliance inzichten, direct in uw inbox.

Security & AI Operating Model

Advisory met executiekracht

Van BIO2 en NIS2 tot EU AI Act, embedded in uw operating model, niet als extern project. Maandelijks opzegbaar, met assessments als bewijsvoering.