272 AI-experts: 18 van 24 risico's >10% kans op catastrofale schade binnen 5 jaar

Zelden valt een AI-risicostudie zo precies op het juiste moment in de bestuursagenda. "Prioritization of Risks from Artificial Intelligence" — een Delphi-studie van MIT FutureTech en University of Queensland met 272 internationale AI-experts uit 37 landen — verscheen in juni 2026 en levert wat AI-governance tot nu toe miste: harde, methodologisch verdedigbare prioritering.

De kern: onder een business-as-usual scenario beoordelen experts 18 van de 24 AI-risico's als meer dan 10% waarschijnlijk om binnen vijf jaar catastrofale schade te veroorzaken. Catastrofaal betekent: méér dan 1 miljoen doden, méér dan $100 miljard financiële schade, of beschavingsschaal immateriële schade. Zelfs bij "pragmatic mitigations" — kosteneffectieve maatregelen door overheden en bedrijven — blijven vijf risico's boven de 10% en alle 24 boven de 5%.

De auteurs zijn helder: "This would be an unacceptable level under most risk-governance frameworks." En: "The window for avoiding catastrophic outcomes remains open but is narrowing."

Drie vragen in plaats van één

Wat deze studie onderscheidt van eerdere AI-risk papers is de driedeling: ernst (welke risico's zijn het grootst), kwetsbaarheid (wie wordt geraakt), en verantwoordelijkheid (wie moet handelen). De meeste AI-governance frameworks mengen deze begrippen. Het MIT-team ontkoppelt ze — en dat levert het meest bestuurlijk relevante patroon van het paper op.

Want hier is wat er gebeurt als je kwetsbaarheid en verantwoordelijkheid apart zet:

Kwetsbaarheid is diffuus. AI Users en Affected Stakeholders — het publiek, consumenten, werknemers onderworpen aan AI-beslissingen — scoren 4 tot 5 op de 5-punts kwetsbaarheidsschaal. De Information-sector, National Security, financiën, gezondheidszorg en onderwijs worden als meest kwetsbare sectoren beoordeeld.

Verantwoordelijkheid is geconcentreerd. General-Purpose AI Developers en Governance Actors (overheden, toezichthouders, standaardenorganisaties) worden als primair verantwoordelijk aangewezen. Infrastructure Providers — compute- en dataleveranciers — scoren juist laag op verantwoordelijkheid.

De kloof tussen deze twee is wat de auteurs een "accountability sink" noemen: gedeelde verantwoordelijkheid over veel actoren kan verantwoordelijkheid van niemand worden. Burgers en gebruikers dragen het risico, maar hebben geen controle. Ontwikkelaars en toezichthouders hebben controle, maar opereren onder competitieve druk en politieke beperkingen.

De auteurs wijzen op een specifiek mechanisme: frontier AI developers worden geconfronteerd met een collective-action probleem. Wie vertraagt om te investeren in safety draagt directe competitieve kosten — de veiligheidsbaten vloeien naar de hele maatschappij. Experts noemden expliciet "race pressures" en "first-mover advantages" als enabling factors voor de ernstigste risico's.

De top vijf onder business-as-usual

In het business-as-usual scenario — organisaties en overheden continueren bestaande praktijken zonder extra AI-specifieke mitigaties — komen deze vijf risico's als ernstigste uit de bus:

| # | Risico | Enterprise-interpretatie | |---|--------|--------------------------| | 1 | Dangerous capabilities | Modellen ontwikkelen capaciteiten voor misleiding, overtuiging, cyber-offensief, autonome actie, zelfproliferatie of wapenondersteuning | | 2 | Competitive dynamics | Race-to-market, release-druk, frontier-modelcompetitie die safety-schuld opbouwt | | 3 | Weapons & cyberattacks | AI-enabled malware, exploit-generatie, CBRNE-ondersteuning, autonome wapens, schaalvergroting van cyberaanvallen | | 4 | Power centralization | Concentratie van data, compute, modellen, kapitaal én beslismacht in steeds minder handen | | 5 | False information | Hallucinatie, desinformatie, synthetic media die autonomie en besluitvorming ondermijnen |

Onder pragmatic mitigations dalen de percentages, maar dangerous capabilities en weapons & cyberattacks blijven op 12% catastrofale kans. Environmental harm, inequality & unemployment en power centralization blijven ook boven de 10%. Dat zijn de structureel hardnekkige risico's — degene waar technische oplossingen alleen niet volstaan.

Methodologisch: Delphi is de juiste keuze, maar geen wondermiddel

De methodologische keuze voor een Delphi-studie — drie rondes, 272 experts, gestructureerde iteratie — is relevant omdat AI-risico's zich in een domein bevinden met weinig historische data. Frontier AI, agentic AI, model-misuse en systeemrisico's: er zijn geen historische ongevalsdatabases zoals in de luchtvaart of procesindustrie. Delphi is geschikt voor onzekerheidsdomeinen waar je gestructureerde expert judgement nodig hebt.

De auteurs zijn transparant over de beperkingen:

• De kanspercentages zijn subjectieve inschattingen, geen gekalibreerde probabilistische forecasts
• Experts in risicodomeinen kunnen extreme uitkomsten overschatten, zeker bij zelfselectie
• De categorieën overlappen — dangerous capabilities, weapons & cyberattacks, en AI misalignment zijn niet onafhankelijk
• Je mag de percentages dus niet optellen tot één "totale kans op catastrofe"
• De mitigatie-definitie ("pragmatic and cost-effective efforts") is bewust vaag gelaten

Maar de waarde zit niet in de exacte percentages. Die zijn onzeker en waarschijnlijk aan de hoge kant. De waarde zit in het patroon: de actoren die het meest geraakt worden, zijn niet de actoren die de meeste controle hebben. Dat is precies waar governance nodig is.

Enterprise-vertaling: vier risicolagen

Voor een organisatie met kritieke AI-afhankelijkheden is de belangrijkste implicatie dat AI-risico niet onder één generieke "AI-beleid"-paraplu thuishoort. Je hebt een risicogelaagd model nodig.

Laag 1 — Systemic & catastrophic risk. Dangerous capabilities, cyber-misuse, machtsconcentratie, governance failure, loss of control. Dit hoort op bestuursniveau: CISO, CRO, CIO, DPO, Legal en eventueel Raad van Bestuur. Dit zijn geen IT-risico's — het zijn existentiële organisatierisico's.

Laag 2 — Sectorale bedrijfsrisico's. Financiën, informatie, nationale veiligheid, gezondheidszorg en publieke dienstverlening zijn extra kwetsbaar. Dit raakt third-party risk, model procurement, cloud inference, data leakage, fraud, identity, cyber resilience en compliance. Verantwoordelijkheid: CISO, risk management, procurement, sector-specifieke toezichthouders.

Laag 3 — Operationele AI-risico's. Hallucinatie, overreliance, discriminatie, privacyverlies, insecure plugins, prompt injection, agent tool abuse, audit gaps. Dit is het domein van de OWASP Top 10 voor Agentic Applications — verantwoordelijkheid bij security operations, platform engineering, compliance.

Laag 4 — Socio-technical risk. Arbeidsmarktimpact, kennisverschraling, besluitvormingsafhankelijkheid, accountability sinks, vendor lock-in, machtsconcentratie. Verantwoordelijkheid: strategie, HR, enterprise architecture, board risk committees.

NIST AI RMF blijft het beste operating model omdat het AI-risico's adresseert over de volledige levenscyclus via Govern, Map, Measure, Manage. De MIT-studie voegt hier prioritering en een accountability-kaart aan toe.

Tien enterprise controls

Op basis van de studie en NIST AI RMF kom ik tot deze tien controls voor C-level besluitvorming:

1. AI Risk Register op basis van de 24 MIT-risicodomeinen, gekoppeld aan eigen use cases, systemen, leveranciers en datastromen
2. Impact-classificatie per AI-use-case (low/medium/high/systemic), niet alleen op privacy en bias, maar ook op cyber-misuse, autonomy, model capability, sectorcriticality en decision authority
3. Frontier AI intake-gate: elk gebruik van Claude, GPT, Gemini, open weights, Ollama Cloud, agent frameworks of autonome tools langs procurement, security, privacy en architecture review
4. Model capability risk expliciet maken: niet alleen "welk model gebruiken we?" maar: welke tools, data, acties, autonomie krijgt het?
5. Verplicht red teaming voor high-impact AI: test op prompt injection, data exfiltration, insecure tool use, policy bypass, malicious instruction following, hallucinatie en privilege escalation
6. AI-incidentmanagement met aparte categorieën voor hallucination harm, unauthorized tool execution, agentic chain failure, model supply chain issue, privacy leakage en cyber-misuse
7. Supplier accountability: AI-softwareleveranciers verplichten tot logging, auditability, data processing, model updates, security posture, vulnerability disclosure, retention, residency, training exclusion en exit-strategie
8. AI in threat modeling: STRIDE, MITRE ATLAS, OWASP LLM Top 10 en OWASP Agentic AI voor agentic systemen
9. Governance evidence auditable maken: elk high-risk AI-systeem een evidence pack met purpose, data lineage, model card, DPIA, risk assessment, test results, human oversight, monitoring, rollback en residual risk acceptance
10. AI-risico aan bestuur rapporteren in scenario's: niet alleen "aantal AI-use-cases", maar top systemic risks, top exposed business processes, top third-party dependencies, unresolved high-risk exceptions en residual risk trend

30-60-90 dagen roadmap

| Periode | Actie | Output | |---------|-------|--------| | 0–30 dagen | AI-use-case inventarisatie, mapping op 24 risicodomeinen | AI risk heatmap, use-case register, quick wins | | 30–60 dagen | High-risk AI governance gates invoeren | Intake template, risk scoring, approval workflow, supplier checklist | | 60–90 dagen | Technische controls en monitoring operationaliseren | Red-team protocol, logging baseline, incident taxonomy, dashboard | | 90+ dagen | Verankeren in GRC en enterprise architecture | AI control library, board reporting, audit evidence, lifecycle governance |

Bottom line

Dit paper plaatst AI-governance eindelijk op dezelfde voet als andere safety-critical domeinen. De luchtvaart, farmacie en nucleaire sector hebben allang geaccepteerd dat kwetsbaarheid diffuus is en verantwoordelijkheid geconcentreerd moet worden. AI volgt nu hetzelfde patroon, met één cruciaal verschil: de governance-instrumenten — verplichte standaarden, aansprakelijkheidsregimes, handhaving — zijn voor AI nog grotendeels afwezig.

De MIT-studie is geen implementatiekader, maar de prioriteringslaag die ontbrak boven NIST AI RMF, ISO 27001, NIST CSF, EU AI Act en OWASP controls. De directe conclusie voor organisaties: AI-risk ownership hoort niet alleen bij business units of eindgebruikers, maar expliciet bij enterprise architecture, CISO, privacy office, procurement, legal, platform engineering, data governance en board risk committees.

De governance-ontwerpregel die hieruit volgt: organiseer upstream, niet alleen bij eindgebruik. Controls bij de gebruiker zijn onvoldoende wanneer risico's ontstaan in modelontwerp, training data, tool-integratie, compute-concentratie, API-toegang, agent autonomy en release pressure.

---

De volledige studie is beschikbaar als open-access PDF: Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts. De MIT AI Risk Repository-taxonomie met 24 risicodomeinen staat op airisk.mit.edu.