Ga naar hoofdinhoud
← Terug naar blog

De autonome drempel overschreden: agentic AI valt aan zonder mens in de lus

AI Security

De autonome drempel overschreden: agentic AI valt aan zonder mens in de lus

Het nieuwste kwartaalrapport van Google Threat Intelligence Group (GTIG) en Mandiant markeert een kwalitatieve sprong, geen trendvoortzetting. Voor het eerst is volledig geautomatiseerde exploitatie van kwetsbaarheden zonder mens in de lus waargenomen. Daarmee is onze eigen conclusie van juni, dat generatieve AI vooral als cognitieve stafafdeling functioneert en niet als autonome aanvaller, empirisch achterhaald.

In het kort

De dreigingsindustrie heeft de drempel naar autonomie overschreden. Aanvallers zetten nu open-source multi-agent offensive frameworks (ARTEX, CAIRN, CyberStrikeAI, PentAGI, HexStrike AI) in tijdens live intrusies, en GTIG trof een staging-server aan met een framework dat kwetsbaarheden analyseert, exploits schrijft en uitvoert zonder menselijke tussenkomst. De kern is niet dat AI nieuwe zero-days vindt, maar dat het bekende, reeds gepatchte kwetsbaarheden op machinesnelheid wapent: het n-day-venster stort in van weken naar uren.

Voor Nederlandse organisaties betekent dit een acute consequentie: de tijd tussen patch en wapenbare exploit is nu korter dan menig patch- en change-managementcyclus, en dat raakt de meldplicht en zorgplicht onder NIS2 en BIO2 direct.

De drempel is overschreden

In juni concludeerden wij op basis van GTIG's eerdere rapport dat generatieve AI niet als autonome superhacker functioneert, maar als een frictieverlagende laag in de operationele keten: AI wordt niet misbruikt als wapen, maar als stafafdeling. Die conclusie was toen correct, maar is nu achterhaald. Het nieuwe rapport beschrijft een regimeverandering.

Het verschil zit in één observatie. GTIG identificeerde een geëxposeerde staging-server met een multi-agent framework genaamd exploit_agent, dat continue differentiële analyse uitvoert van populaire webapplicaties: het vergelijkt code vóór en na patch-aankondigingen, identificeert potentiële kwetsbaarheden, schrijft exploits en voert ze automatisch uit zonder menselijke tussenkomst. Dat is niet langer "AI ondersteunt een menselijke operator"; dat is een gesloten lus van detectie tot exploitatie.

Drie van de vier nieuwe offensive frameworks zijn bovendien niet hypothetisch. GTIG zag CAIRN ingezet tegen de Amerikaanse lucht- en ruimtevaartsector, PentAGI voor systematische verkenning en kwetsbaarheidsscanning in Azië, en CyberStrikeAI en HexStrike AI in experimentele inzet. De frameworks delen een kernpatroon: het ontdekken van laag-complexe kwetsbaarheden, het on-demand genereren van eenmalige payloads en het dynamisch bijstellen van tactiek op basis van realtime executiefeedback.

Wat GTIG en Mandiant hebben aangetoond

Het rapport is gegrond in Mandiant-incidentresponse, actortracking en live platformverdediging. De vijf hoofdlijnen op een rij:

Multi-agent offensive frameworks in live intrusies. De transitie van handmatig prompten naar autonome frameworks is voltooid. CAIRN implementeert een OODA-lus (Observe, Orient, Decide, Act) met gespecialiseerde agenten die via een gedeeld "blackboard" samenwerken. CyberStrikeAI is een Go-gebaseerde C2- en orchestratieserver die commerciële en open-weight modellen koppelt aan meer dan honderd securitytools en YAML-aanvalsrecepten. HexStrike AI integreert via Model Context Protocol (MCP) meer dan honderdvijftig offensive tools, gecoördineerd door meer dan twaalf autonome sub-agenten. PentAGI verlaagt de technische drempel voor beginnende operators.

Eerste exploitatie zonder mens in de lus. Het exploit_agent-framework voert differentiële patch-analyse uit op webapplicaties en voert exploits automatisch uit. De server bevatte bovendien scripts voor post-compromisactiviteit: interne verkenning, brute-forcing, webshell-installatie en zelfs het verwijderen van webshells van concurrerende aanvallers. De configuratiecommentaren waren in het Russisch; de geëxfiltreerde slachtoffertelemetrie wees op Franse doelwitten in media, entertainment en onderwijs.

Het n-day-venster stort in. Het meest verontrustende cijfer is niet het aantal zero-days. Tussen januari en augustus 2026 verdubbelden de kwetsbaarheidsmeldingen en exploits bijna, terwijl zero-day-exploits slechts marginaal stegen: van gemiddeld acht per maand in 2025 naar elf per maand in 2026, met een piek van tweeëntwintig in augustus. De groei zit in het wapenen van reeds gepatchte kwetsbaarheden. De PaperCut-casus illustreert de snelheid: twee als zero-day uitgebuit kwetsbaarheden (CVE-2026-81578 en CVE-2026-82078) werden binnen een dag van disclosure omgezet in werkende exploits; vier dagen later volgde een brede campagne tegen honderden organisaties, waarbij een aanvaller in minuten van initiële voet-aan-de-grond naar domeinbeheerder opschaalde.

LLMJacking en LLM Mixers. Financieel gemotiveerde actoren stelen LLM-credentials en cloudresources en verhandelen toegang via ondergrondse proxy-diensten. Eendaagse frauduleuze kosten overschreden honderdduizend dollar; cumulatieve schade liep op tot een miljoen dollar. De toegang wordt verkocht via "LLM Mixers", met prijzen van $0,10 tot $25 per miljoen tokens. Een opvallend detail: via CVE-2026-40217, een sandbox-escape in LiteLLM, wisten aanvallers beperkte inference-sleutels te escaleren naar volledige administratieve credentials.

Supply-chain via coding-assistants. De meest strategisch relevante nieuwe vector komt van de vermoedelijke DPRK-acteur MIDNIGHT NEPTUNE. Na initiële toegang via gesynthetiseerde recruiterprofielen (met SynthID-watermerken) en ClickFix-lures, wijzigde de actor .claude/settings.json-configuratiebestanden zodat Claude Code bij opstarten automatisch de SOMBERMEME-backdoor downloadde. Dit is geen theoretisch risico meer: de configuratie van een autonome coding-assistant is nu een daadwerkelijk gebruikte executiehaak.

De kern van de versnelling: het n-day-venster stort in

Waarom is n-day-wapening zo efficiënt geworden? Omdat de aanvalsinspanning lineair schaalt met de grootte van de patch, niet met de grootte van de codebase. Een aanvaller die een patched kwetsbaarheid wil wapenen, hoeft slechts het verschil tussen twee codeversies te lezen, niet de hele applicatie te begrijpen. Differentiële patch-analyse is daarmee een probleem van complexiteit O(delta), niet O(codebase).

import difflib

# Differential patch analysis: het beveiligingsrelevante verschil zit in de
# DELTA tussen twee codeversies. De analyse is lineair in de grootte van de
# delta, niet van de codebase. Precies daarom is n-day weaponization zo snel:
# de aanvaller leest alleen wat veranderde.

def strip(lines):
    return [l.strip() for l in lines if l.strip() and not l.strip().startswith("#")]

voor_patch = strip([
    "def restrict_popup(result):",
    "    route = request.uri",
    "    if '/wp/v2/spectra-popup' not in route:",
    "        return result",
    "    return result   # geen autorisatiecheck: elke anonieme bezoeker passeert",
])

na_patch = strip([
    "def restrict_popup(result):",
    "    route = sanitize(request.uri)",
    "    if '/wp/v2/spectra-popup' not in route:",
    "        return result",
    "    if is_logged_in() and current_user_can('manage_options'):",
    "        return result",
    "    return forbidden(401)   # autorisatiecheck toegevoegd",
])

delta = [l for l in difflib.unified_diff(voor_patch, na_patch, lineterm="")
         if l.startswith("+") and "current_user_can" in l]
print("beveiligingsrelevante delta:", delta)

Dit is precies de analyse die het exploit_agent-framework automatiseert tegen de Spectra WordPress-plugin. De beveiligingsrelevante wijziging, de toegevoegde autorisatiecheck, valt in één regel uit de diff te isoleren. Schaal dat naar honderden patches per dag, parallel over duizenden doelen, en het n-day-venster is niet meer een kwestie van weken maar van uren.

De complexiteitskanteling werkt in het voordeel van de aanvaller. Het lezen van een patch is O(delta); het wapenen is eveneens O(delta); en omdat elke doelorganisatie onafhankelijk kwetsbaar is, is de campagne embarrassingly parallel: O(m doelen) met een wandkloktijd begrensd door de langzaamste enkele analyse. De verdediger daarentegen moet patchen, testen en uitrollen in een sequentiële keten van change management, afhankelijkheden en acceptatieomgevingen.

Wat dit voor Nederland betekent

De Nederlandse consequentie is concreet, niet abstract. Onder de NIS2-richtlijn, in Nederland omgezet via de Cyberbeveiligingswet, geldt een meldplicht met een early-warningtermijn van vierentwintig uur bij een significant incident. Wanneer de exploitatiecyclus van een kwetsbaarheid korter is dan die termijn, verschuift de verdediging van reactief patchen naar preventief verkorten van de blootstelling. Het n-day-venster, niet het zero-day-aantal, wordt de bindende beperking.

Voor overheidsorganisaties onder de Baseline Informatiebeveiliging Overheid (BIO2) raakt de supply-chain-vector direct aan de beheersmaatregelen voor leveranciers en softwareontwikkeling. Een .claude/settings.json-bestand dat bij opstarten een backdoor downloadt, is een executiehaak die in een codebase of ontwikkelomgeving kan worden geïnjecteerd en door de eigen ontwikkelaar als legitiem onderdeel van de tooling wordt gestart. Dat valt onder de BIO2-maatregelen voor softwarelevenscyclus en bevoorrechte toegang, maar de detectie vereist inzicht in wat coding-assistants daadwerkelijk uitvoeren, niet alleen in wat de broncode zegt.

Ten slotte is er de operationele last van de zogeheten fake POC's. Na de PHP-kwetsbaarheden CVE-2026-109618 en CVE-2026-109619 verschenen honderden beweerde maar niet-functionele proof-of-concepts, waarschijnlijk LLM-gegenereerd. Voor een Nederlands security operations center betekent dit extra verificatiewerk op een moment dat het n-day-venster al minimaal is. De ruis is zelf een wapen.

Concreet beeld: een ministerie dat in zijn softwareontwikkeling een coding-assistant gebruikt, en waarvan het .claude/settings.json-bestand buiten de formele change-cyclus om wordt gewijzigd, start bij elke editor-opstart een backdoor, zonder dat de broncode zelf is aangetast. Voor een waterschap met een internet-facing server geldt het spiegelbeeld: de tijd tussen patch en wapenbare exploit is korter dan menig change-managementcyclus, waardoor de beheerorganisatie structureel achter de feiten aan loopt.

Alternatieve verklaringen

De conclusie "de drempel naar autonomie is overschreden" is niet de enige lezing van dezelfde feiten. Drie materieel verschillende alternatieven:

  1. Het exploit_agent-framework was experimenteel, niet operationeel. GTIG trof een geëxposeerde staging-server aan. De configuratie zegt wat het framework kan doen, niet wat het heeft gedaan. "Ingericht om uit te voeren" is niet hetzelfde als "uitgevoerd". Als de server een proof-of-concept was zonder bewezen schade, is de drempel nog niet overschreden, maar slechts aangekondigd.

  2. De attributie is onzeker. Russischtalige commentaren wijzen niet noodzakelijk op een Russische actor. False-flag-technieken zijn goedkoop, en de vermoedelijke PRC-nexus en DPRK-actoren in hetzelfde rapport laten zien dat meerdere statelijke actoren parallel experimenteren. De taal van een configuratiebestand is zwak attributiebewijs.

  3. De n-day-verklaring overschat de generalisatie. De PaperCut- en PHP-casussen waren uitzonderlijk goed wapenbaar. Dat twee specifieke kwetsbaarheden binnen een dag werden uitgebuit, bewijst niet dat het n-day-venster voor de gemiddelde kwetsbaarheid structureel is ingestort. De verdubbeling van meldingen kan ook wijzen op meer openbaarmaking, niet op snellere exploitatie.

Wat het rapport zou weerleggen

De centrale claim, dat exploitatie nu zonder mens in de lus plaatsvindt, is falsifieerbaar. Die claim zou worden weerlegd als de uitvoeringslogs van exploit_agent menselijke goedkeuringsstappen tussen analyse en exploitatie tonen, of als de PaperCut- en PHP-casussen aantoonbaar door menselijke operators zijn gedragen en de LLM alleen het schrijfwerk versnelde. Eveneens weerleggend zou zijn een dataset die aantoont dat het mediane n-day-venster niet is gedaald, maar dat alleen de uitbijters sneller werden uitgebuit.

De kern is dat GTIG een observatie rapporteert, geen experiment. De bewering "zonder menselijke tussenkomst" rust op de configuratie van een aangetroffen framework en op de snelheid van specifieke campagnes, niet op een gecontroleerde meting van menselijke betrokkenheid in elke stap.

De counterfactual

Stel dat de LLM-revolutie alleen het zero-day-onderzoek had versneld, en niet het n-day-wapenen. Dan zou de primaire verdediging, tijdig patchen, intact zijn gebleven en zou de "machinesnelheid"-dreiging theoretisch zijn. Het rapport toont het tegenovergestelde: de efficiëntiewinst zit precies in het n-day-wapenen, omdat differentiële patch-analyse het goedkoopst is. Daarom is het patchvenster, en niet het zero-day-aantal, de kritieke metriek geworden. Die counterfactual verklaart waarom de verdediging fundamenteel verschuift: van "sneller patchen dan de volgende zero-day" naar "de blootstellingsduur verkorten tot onder de machine-achtige wapeningssnelheid".

Beperkingen

Het rapport heeft beperkingen die de reikwijdte van de conclusies begrenzen. Ten eerste is de telemetrie afkomstig van Mandiant-incidenten en Google-platformverdediging, wat een selectiebias kan introduceren richting organisaties die Google-diensten gebruiken en incidenten die groot genoeg zijn om Mandiant in te schakelen. Ten tweede is de observatie van "zonder mens in de lus" gebaseerd op aangetroffen configuratie en slachtoffertelemetrie, niet op volledige uitvoeringslogs van het exploit_agent-framework. Ten derde zijn de nul-dag- en n-dag-statistieken afkomstig uit GTIG's eigen analyse van kwetsbaarheidsstatistieken, waarvan de methodologie (welke datasets, welke normalisatie) niet volledig is gepubliceerd. Ten vierde richt het rapport zich op statelijke en financieel gemotiveerde actoren; de vertaalslag naar de Nederlandse publieke sector is onze duiding, geen conclusie van GTIG. Wie de headline "exploitatie zonder mens" als algemeen geldend feit overneemt, overclaimt; het is een waargenomen casus plus een gedocumenteerde trend, geen volledig getelde populatie.

Wat te doen

De handelingsvolgorde naar rendement:

  1. Verkort de blootstellingsduur, niet alleen de patchfrequentie. Wanneer het n-day-venster korter is dan de change-managementcyclus, is de enige resterende verdediging de aanvalsoppervlakte te verkleinen: externe diensten achter een authenticatielaag, netwerksegmentatie en het uitschakelen van onnodige internet-facing functionaliteit.

  2. Behandel coding-assistant-configuratie als aanvalsvlak. Audit .claude/settings.json- en vergelijkbare configuratiebestanden op onverwachte hooks, en vergrendel de configuratie tegen wijziging buiten de formele ontwikkelcyclus. De MIDNIGHT NEPTUNE-vector toont dat dit geen theoretische zorg is.

  3. Monitor op LLM-resource-abuse. LLMJacking is meetbaar als een afwijkende API-consumptie en een kostenspike. Vroege detectie van "burn and rotate"-gedrag op service-accounts is goedkoper dan de miljoenen dollars aan cumulatieve schade die het rapport documenteert.

  4. Budgetteer voor fake-POC-verificatie. De stroom LLM-gegenereerde, niet-functionele exploits verhoogt de verificatielast. Neem die op in de capaciteitsplanning van het security operations center.

Zie ook

Bronnen

  1. GTIG AI Threat Tracker: Agentic Threat Activity Crosses a Significant Threshold, Google Threat Intelligence Group, 16 november 2026.
  2. Richtlijn (EU) 2022/2555 (NIS2), EUR-Lex.
  3. Baseline Informatiebeveiliging Overheid (BIO2), digitaleoverheid.nl.

AI & Security Intelligence

Wekelijkse nieuwsbrief met AI updates, security alerts en compliance inzichten, direct in uw inbox.

Security & AI Operating Model

Advisory met executiekracht

Van BIO2 en NIS2 tot EU AI Act, embedded in uw operating model, niet als extern project. Maandelijks opzegbaar, met assessments als bewijsvoering.