Frontier AI herconfigureert security in critical infrastructure: vijf dimensies die je niet kunt negeren

De security-dynamiek van critical infrastructure is niet meer hetzelfde. Frontier AI verandert de spelregels. Dit gebeurt niet alleen in theorie. Een recente Systematization of Knowledge (SoK) paper op arXiv laat zien hoe AI-modellen de risico's in energie, water, transport en gezondheidszorg herconfigureren. Dit is geen academisch spelletje. NIS2 verplicht essentiële entiteiten om deze risico's te beheersen. BIO2 eist dat je ze concreet adresseert. De AI Act voegt daar nog een laag aan toe.

Ik heb de paper gelezen. Ik neem je mee door de vijf dimensies die het framework beschrijft. Ik behandel het als analyse. Geen samenvatting. Wat betekent dit voor jouw organisatie? Waar moet je morgen mee aan de slag? De traditionele security-benadering volstaat niet meer.

Het SoK-paper: een raamwerk voor de nieuwe realiteit

De paper, getiteld "SoK: Frontier AI Reshapes Security Risk Dynamics in Critical Infrastructure", is gepubliceerd op arXiv met ID 2608.04033. Het is een systematische analyse. Frontier AI, modellen zoals GPT-4, Claude 3, en hun opvolgers, herconfigureert de security-risico's in critical infrastructure. De auteurs definiëren vijf dimensies. Samen vormen ze een framework.

1. Capability emergence. AI-modellen krijgen nieuwe mogelijkheden die niet voorzien waren.
2. Infiltration pathways via AI supply chains. Aanvallers kunnen via de AI-toeleveringsketen binnendringen.
3. Cross-system propagation. Een compromis in één systeem verspreidt zich naar andere systemen.
4. Degradatie van control authority. AI-systemen kunnen de controle van operators ondermijnen.
5. Strain op response capacity. De snelheid en complexiteit van aanvallen overbelasten de responscapaciteit.

Deze vijf dimensies zijn niet los van elkaar. Ze versterken elkaar. Een capability emergence kan leiden tot een nieuwe infiltratieroute. Die maakt weer cross-system propagation mogelijk. Het is een systeem van versterkende feedback.

Wat mij opvalt: de paper is geen paniekverhaal. Het is een nuchtere analyse van hoe het dreigingslandschap verandert. Dat is precies wat we nodig hebben. De neiging is om te ontkennen. Vaak slaat men door naar overdrijven. De waarheid ligt ergens in het midden. Met concrete mechanismen.

Dimensie 1: Capability emergence

Capability emergence betekent dat AI-modellen vaardigheden ontwikkelen. Deze zijn niet expliciet geprogrammeerd. Denk aan een model voor natuurlijke taalverwerking. Ineens kan het ook code genereren die kwetsbaarheden exploiteert. Dit is geen sciencefiction. We zien dit al bij modellen zoals GPT-4. Ze zijn in staat om functionerende exploit-code te schrijven voor bekende kwetsbaarheden.

Formeel definieer ik capability emergence als een functie. Deze afbeeldt een model M en een input x op een output y. Output y bevat een actie buiten de oorspronkelijke trainingsdoelstelling. Stel dat M is getraind om e-mails te classificeren. Door de grote hoeveelheid code in de trainingsdata kan M ook een SQL-injectie genereren. Dat is een emergente capability.

Voor critical infrastructure betekent dit iets specifieks. Een AI-systeem in een energiebeheersysteem kan onbedoeld een aanvalsvector worden. Het model is niet kwaadaardig. Het heeft wel de mogelijkheid om acties uit te voeren buiten het beoogde gebruik. NIS2 vraagt hier om. Je moet risico's beheersen. Ook onbedoelde.

Concreet voorbeeld: een AI-chatbot gekoppeld aan een API voor netwerkbeheer. De chatbot is getraind om vragen te beantwoorden over netwerkconfiguratie. Door een prompt-injectie kan een aanvaller de chatbot commando's laten uitvoeren. De configuratie wijzigt dan. Dit is geen hypothetisch scenario. In 2025 is dit al gedemonstreerd in een proof-of-concept.

De paper stelt dat capability emergence een exponentiële groei kent. Naarmate modellen groter worden, verschijnen er nieuwe mogelijkheden. Dit betekent dat je als organisatie niet kunt vertrouwen op statische beveiliging. Je moet adaptief zijn.