AI versnelt AI, maar wie versnelt de controle? De METR-audit van Anthropic ontleed
De kern
Op 5 november 2026 publiceerde METR, de onafhankelijke organisatie die frontier-AI-systemen evalueert, een uitzonderlijke beoordeling van het onderzoeksproces bij Anthropic. Gedurende elf weken kreeg METR toegang tot interne modelprestaties, trainingsgegevens, onderzoeksindicatoren en medewerkers. De centrale bevinding is opmerkelijk: sinds oktober 2025 ontwikkelden de modelcapaciteiten van Anthropic zich volgens een samengestelde benchmarkindex circa 1,9 maal zo snel als in de voorafgaande periode, met een 95%-betrouwbaarheidsinterval van 1,5 tot 2,8. Het onderzoek suggereert bovendien dat AI-ondersteuning verantwoordelijk is voor een groot deel van de recente versnelling, mogelijk circa 80 procent, al is dat geen experimenteel geïdentificeerd causaal percentage.
Tegelijkertijd moest Anthropic een aanzienlijk deel van het bewijs waarop deze conclusies rusten uit de publieke rapportage verwijderen. Daardoor is het onderzoek onafhankelijk uitgevoerd, maar niet volledig onafhankelijk reproduceerbaar. Hier ligt de strategische paradox: de organisatie die haar eigen innovatiecyclus steeds verder automatiseert, kan tegelijkertijd het vermogen van externe partijen beperken om die versnelling te controleren.
Voor bestuurders, toezichthouders, enterprise-architecten en cybersecurityprofessionals is dit geen abstract toekomstscenario maar een actuele ontwerpvraag: hoe organiseer je aantoonbare controle over technologie waarvan het veranderingsritme steeds minder aansluit op menselijke besluitvormings- en auditcycli? De centrale stelling is dat AI-governance moet verschuiven van periodieke modelbeoordeling naar continue, onafhankelijk verifieerbare controle over het volledige AI-ontwikkel- en uitvoeringsproces.
1. Wat METR daadwerkelijk heeft vastgesteld
Tussen 12 augustus en 29 oktober 2026 onderzocht METR drie hoofdvragen: of de groei van de modelcapaciteiten van Anthropic versnelde, welk gedeelte daarvan aan AI kon worden toegeschreven en of technische of organisatorische knelpunten verdere versnelling konden beperken. Het onderzoek omvatte interne benchmarkresultaten van nog niet publiek uitgebrachte modellen, gegevens over pretraining en reinforcement learning, trainingscompute, algoritmische efficiëntie, medewerkersproductiviteit en circa vijftien interviews.
| Onderzoeksuitkomst | Bevinding | Epistemische status |
|---|---|---|
| Groei van benchmarkcapaciteiten | 1,9× historische groeisnelheid | Statistische schatting, afhankelijk van modelkeuzes |
| Betrouwbaarheidsinterval | 1,5 tot 2,8× | Conditioneel, dekt niet alle onzekerheid |
| Interpretatie van de actuele versnelling | Circa 1,3 tot 3× historisch tempo plausibel | Subjectief oordeel |
| Bijdrage van AI | Mogelijk circa 80% van de actuele versnelling | Onzekere causale toeschrijving |
| Trainingscompute | Versnelde opschaling verklaart de versnelling niet | Sterk ondersteund, details afgeschermd |
| Volledig autonome AI-R&D | Nog geen dominante bijdrage in de trainingsketen | Kwalitatieve beoordeling |
| Beperkende knelpunten | Geen overtuigende blokkade voor twaalf maanden | Voorlopig, grote onzekerheid |
Deze resultaten zijn belangrijk, maar hun betekenis is smaller dan de headline suggereert. Een verdubbeling van de groeisnelheid betekent niet dat ieder model tweemaal zo intelligent is, dat alle onderzoeksactiviteiten tweemaal zo productief zijn of dat de volledige AI-ontwikkeling autonoom verloopt. METR gebruikt "versnelling" om een verandering in de snelheid van capaciteitsgroei aan te duiden: als een capaciteitsindex historisch met 15 punten per jaar stijgt en nu met 30, dan is de versnelling 2×. Dat is iets wezenlijk anders dan een verdubbeling van de absolute modelprestaties. Die begripsafbakening is essentieel, anders worden prestatieverbetering, productiviteitswinst, automatisering en recursieve zelfverbetering ten onrechte als hetzelfde fenomeen behandeld.
2. De methodologische kern: een versnelling is nog geen causale verklaring
De belangrijkste statistische methode berust op AECI, Anthropic's variant van de Epoch Capabilities Index. Deze index probeert prestaties over verschillende benchmarks terug te brengen tot één onderliggende maat voor modelcapaciteit, met aannames over de relatie tussen latente modelsterkte en de kans dat een taak slaagt. Vervolgens vergelijkt METR de ontwikkeling vóór en na een geschat omslagpunt in oktober 2025.
In vereenvoudigde vorm is de acceleratie de verhouding van groeisnelheden:
import math
# METR definieert "acceleratie" als de verhouding van groeisnelheden:
# 2× betekent dat twee jaar historische progressie in één jaar wordt gemaakt.
def acceleratie(g_oud, g_nieuw):
return g_nieuw / g_oud
# voorbeeld uit het rapport: groei van 3x/jaar naar 9x/jaar
print(acceleratie(3, 9)) # 3.0; de centrale schatting is de ratio vóór/na het omslagpunt
De centrale schatting is circa 1,9. Maar achter dat overzichtelijke getal schuilen meerdere bronnen van onzekerheid.
2.1 De meetlat beïnvloedt de uitkomst
AECI is geen directe meting van algemene intelligentie of economische waarde, maar een statistische constructie op basis van geselecteerde benchmarks en een onderliggend meetmodel. Afhankelijk van de gekozen linkfunctie voor de verdeling van taakmoeilijkheid liep de geschatte versnelling uiteen van 1,1 tot 2,9. Dat verschil is substantieel: bij 1,1× is sprake van een beperkte verandering, bij 2,9× verandert de strategische interpretatie aanzienlijk. METR rapporteerde ook dat het belangrijkste betrouwbaarheidsinterval niet alle onzekerheid over de geselecteerde modellen en modelspecificaties omvat.
Een robuuste strategische beoordeling moet daarom drie vormen van onzekerheid onderscheiden. Statistische onzekerheid door de beschikbare waarnemingen; modelonzekerheid door de gekozen index, benchmarks, linkfuncties en trendbreuken; en externe-validiteitsonzekerheid doordat benchmarkverbeteringen niet noodzakelijk dezelfde betekenis hebben voor complexe, realistische taken. METR onderzoekt deze beperkingen expliciet, wat de wetenschappelijke kwaliteit versterkt, maar geen overdreven precisie in de beleidsconclusies rechtvaardigt.
2.2 De causaliteit blijft ondergeïdentificeerd
Een fundamenteler probleem is waarom Anthropic sneller vooruitgaat. Mogelijke verklaringen zijn verbeterde AI-assistentie, veranderingen in personeelscapaciteit, efficiëntere experimenten, betere data, algoritmische doorbraken en gewijzigde processen. Deze factoren zijn niet onafhankelijk: betere AI maakt experimenten goedkoper, goedkopere experimenten zetten aan tot meer hypothesen, en meer experimenten kunnen betere modellen opleveren. Dat is precies het feedbackmechanisme dat men wil onderzoeken, maar dezelfde structuur maakt causale identificatie moeilijk.
De cruciale vraag is niet alleen hoe snel Anthropic vooruitging, maar hoeveel sneller dan dezelfde organisatie zonder AI zou zijn gegaan. Die contrafeitelijke wereld is niet rechtstreeks waarneembaar. METR gebruikt daarom triangulatie van interviews, interne analyses, trends en operationele indicatoren. Dat is verdedigbaar, maar geen equivalent van een gerandomiseerd experiment. De subjectieve schatting van circa 80% AI-bijdrage is in dat licht een geïnformeerd oordeel op basis van vertrouwelijk bewijs, geen afzonderlijk reproduceerbaar causaal effect.
De richting van de fout is bovendien tweezijdig. METR kan de versnelling onderschatten (als de groei hyperbolisch is of de automatisering dichterbij is dan gedacht) of overschatten (als niet-AI-factoren of een historisch lage basis de groei verklaren). Beide richtingen worden expliciet benoemd, wat eerlijk is maar bevestigt hoe onzeker de centrale schatting blijft.
3. De onafhankelijkheidsparadox: toegang zonder volledige transparantie
Een van de meest verstrekkende onderdelen betreft niet de AI-capaciteiten zelf, maar de inrichting van het onderzoek. METR kreeg ongewoon ruime toegang tot interne informatie, terwijl Anthropic contractueel het recht behield om niet-publieke informatie uit de gepubliceerde beoordeling te laten verwijderen. Volgens METR betrof dit een meerderheid van het bewijs dat de onderzoekers het meest informatief vonden. Anthropic verklaarde dat de redactie bedoeld was om te voorkomen dat vertrouwelijke informatie de ontwikkeling bij andere AI-aanbieders zou versnellen.
Dat argument verdient serieuze aandacht: transparantie over trainingsmethoden en efficiëntiewinsten kan zelf strategische of veiligheidsrisico's creëren. Maar de publieke controle wordt er wel door begrensd. Er ontstaat een spanningsveld tussen drie belangen: bescherming van bedrijfsgeheimen, onafhankelijke evaluatie van maatschappelijke risico's, en publieke reproduceerbaarheid en democratische controle. METR's eigen evaluatiechecklist maakt het probleem concreet: de organisatie kon niet voldoen aan de eis om voldoende methodologische informatie voor onafhankelijke toetsing beschikbaar te stellen, noch aan de eis dat de beoordeelde aanbieder geen bevoegdheid mocht hebben om zorgwekkende resultaten te censureren.
Daar komen twee opvallende details bij. Ten eerste maakte verificatie van de verdeling van compute tussen capability-ontwikkeling en veiligheidswerk oorspronkelijk deel uit van de opdracht; Anthropic schrapte dat onderdeel tijdens het onderzoek, voordat METR inhoudelijke conclusies had getrokken. Ten tweede werd Claude intensief gebruikt bij de dataverzameling en analyse van METR zelf. De onderzoekers melden geen aanwijzingen voor systematische beïnvloeding, maar het creëert wel een relevante afhankelijkheid: AI-systemen uit hetzelfde technologische ecosysteem dragen bij aan de analyse van dat ecosysteem.
Dat is geen bewijs van manipulatie, maar een reden om onafhankelijkheid preciezer te definiëren. Institutionele onafhankelijkheid, toegang tot gegevens, methodologische onafhankelijkheid en reproduceerbaarheid zijn vier verschillende eigenschappen; een beoordeling kan onafhankelijk zijn uitgevoerd en toch onvoldoende extern controleerbaar blijven.
4. Het verschil tussen AI-assistentie en recursieve zelfverbetering
De conclusie dat AI een groot gedeelte van de versnelling veroorzaakt, roept de vraag op of AI zichzelf inmiddels recursief verbetert. Het antwoord vereist een onderscheid tussen drie mechanismen. Menselijk onderzoek met AI-assistentie: onderzoekers formuleren de hypothesen, AI ondersteunt programmeren en analyse. Gedeeltelijke onderzoeksautomatisering: AI-systemen voeren zelfstandig afgebakende taken uit, mensen behouden de verantwoordelijkheid voor probleemdefinitie en integratie. Recursieve zelfverbetering: verbeterde AI-capaciteiten leiden tot verdere verbetering van de ontwikkelprocedure, waardoor een positieve terugkoppeling ontstaat.
METR vindt substantiële aanwijzingen voor het eerste mechanisme en vroege aanwijzingen voor het tweede, maar geen bewijs dat volledig autonome recursieve zelfverbetering de dominante motor is. Dat onderscheid is strategisch belangrijk: een organisatie kan haar onderzoeksproductiviteit dramatisch verhogen zonder dat haar systemen zelfstandig onderzoeksdoelen bepalen. Tegelijk kan gedeeltelijke automatisering al voldoende zijn om een krachtige terugkoppeling te veroorzaken; het hoeft geen volledig autonoom proces te zijn om de dynamiek fundamenteel te veranderen.
Beschouw AI-ontwikkeling als een systeem waarin modelcapaciteit, menselijke expertise, compute en onderzoeksefficiëntie elkaar beïnvloeden. Een vereenvoudigde relatie:
capaciteitsgroei = f(AI-productiviteit, menselijke expertise, compute, data, onderzoeksrendement)
De doorslaggevende variabele is niet het aantal gegenereerde experimenten, maar het marginale rendement op een extra, onafhankelijk gevalideerd experiment. Duizend automatisch gegenereerde experimenten leveren weinig op als ze dezelfde fout herhalen of een ongeschikte benchmark optimaliseren. Daaruit volgt een toetsbare hypothese: de volgende grens aan AI-R&D-versnelling kan verschuiven van het genereren van onderzoeksopties naar het betrouwbaar identificeren van welke opties werkelijk beter zijn. Die hypothese is geen bevinding van METR, maar een strategische gevolgtrekking.
5. Wat eerdere METR-studies leren over productiviteit
Een reden om voorzichtig te zijn met vergaande extrapolaties is de eerdere onderzoeksgeschiedenis van METR. In juli 2025 rapporteerde METR een gerandomiseerd experiment waarin ervaren open-sourceontwikkelaars met toenmalige AI-tools gemiddeld 19% langer over hun werkzaamheden deden dan zonder AI, met een betrouwbaarheidsinterval tussen +2% en +39%. Dat resultaat werd in februari 2026 genuanceerd: de latere gegevens suggereerden dat productiviteitswinsten plausibeler waren geworden, maar selectie-effecten en meetproblemen maakten een betrouwbare schatting moeilijk.
De studies spreken elkaar niet noodzakelijk tegen; zij meten andere perioden, taken en vormen van AI-gebruik. De algemene les is dat AI-productiviteit geen universele systeemconstante is, maar afhangt van het type taak, de mate waarin succes objectief kan worden vastgesteld, de hoeveelheid impliciete context en de manier waarop mens en AI samenwerken. Voor organisaties betekent dit dat een benchmarkresultaat van een frontier-laboratorium niet rechtstreeks mag worden omgezet naar een businesscase voor softwareontwikkeling of publieke dienstverlening. De relevante grootheid is niet de hoeveelheid AI-output, maar de aantoonbare verbetering van de volledige waardeketen.
6. Drie scenario's, drie bestuurlijke reacties
De beschikbare evidentie ondersteunt meerdere verklaringen van de waargenomen versnelling; strategisch bestuur moet die niet voortijdig reduceren tot één voorspelling.
| Scenario | Kenmerk | Wat zou het onderscheiden? | Bestuurlijke consequentie |
|---|---|---|---|
| Eenmalige sprong | Tijdelijke verhoging zonder blijvend hogere groei | Nieuwe generaties vallen terug naar de trendsnelheid | Continue monitoring, geen escalatie |
| Structurele mens-AI-versnelling | AI verhoogt duurzaam de effectiviteit van onderzoekers | Herhaalde aantoonbare productiviteitsverbeteringen | Versnelling van toetsing en governance |
| Compounding AI-R&D | Betere AI versnelt volgende generaties steeds verder | Toenemende autonome, gevalideerde bijdragen | Dynamische drempels en noodmaatregelen |
Het derde scenario verdient aandacht vanwege de mogelijke impact, niet omdat het door METR al bewezen is. Een bijzonder interessante bevinding uit METR's afzonderlijke beoordeling van het risicorapport van Anthropic is dat de publieke formulering van sommige interne analyses te veel zekerheid suggereerde. Zo reconstrueerde METR bij een historische voortgangsmaatstaf een versnelling van 1,97, terwijl Anthropic publiek sprak over minder dan een verdubbeling. Dat is numeriek verdedigbaar maar bestuurlijk potentieel misleidend: een lezer zou "minder dan een verdubbeling" interpreteren als duidelijk onder de 2, terwijl het interne cijfer 1,97 impliceert, ofwel "circa 2".
METR achtte bovendien plausibel dat een vroegtijdige waarschuwingsdrempel uit Anthropic's eigen Responsible Scaling Policy op 15 juli 2026 al was overschreden, hoewel de betrokken onderzoekers doorgaans neigden naar de conclusie dat dit niet het geval was. Dat is geen vaststelling dat de drempel overschreden was, maar illustreert dat de interpretatie van een risicodrempel zelf onderdeel van het risico kan worden, zeker wanneer een aanbieder tegelijk eigenaar is van de technologie, de primaire meetgegevens en de publieke risicocommunicatie.
Wat de paper niet test
Ondanks de ruime toegang was dit geen toegang op medewerkersniveau: de informatiepijplijn was smal, een klein aantal verzoeken werd afgewezen en METR moest vertrouwen op wat werd aangeleverd. Belangrijker nog: METR veranderde haar interpretatie van kerngegevens meerdere keren naarmate meer context werd gedeeld, in sommige gevallen met omkeringen op kritieke vragen. Er kunnen dus punten zijn die door onvoldoende context verkeerd zijn geïnterpreteerd.
De conclusie is falsifieerbaar op drie manieren. Als een saturatie-vrije, breder samengestelde benchmark de versnelling doet verdwijnen, was de 1,9× een meetartefact van een meetlat die onderscheidend vermogen verliest. Als niet-AI-factoren de versnelling volledig verklaren, is er geen terugkoppellus en geen reden om compoundering te vrezen. En als binnen twaalf maanden een harde bottleneck verschijnt die METR nu niet ziet, stopt de versnelling vanzelf en was de zorg voorbarig.
De tegenfeitelijke vraag maakt de inzet concreet: wat als deze versnelling doorzet en compoundeert, terwijl de twee controle-instrumenten (transparant bewijs en een veiligheidsrekenkracht-verificatie) structureel ontbreken? Dan wordt de vraag wanneer extreem capabele systemen ontstaan beantwoord door de partij die er het meeste belang bij heeft dat het antwoord gunstig uitvalt.
Methodologisch is de tijdcomplexiteit overigens bescheiden: de stuksgewijze passing is O(n) voor n modelsnapshots. De echte onzekerheid zit niet in de rekentijd maar in de schaarste aan frontiermodellen.
7. De nieuwe strategische risicocategorie: assurance debt
Technologische organisaties kennen technische schuld, beveiligingsschuld en architectuurschuld. De toenemende automatisering van AI-ontwikkeling introduceert een vierde categorie: assurance debt, de opeenstapeling van nieuwe mogelijkheden, beslissingen en systeemwijzigingen waarvoor voldoende onafhankelijke verificatie nog ontbreekt. Dit begrip is hier een voorgesteld bestuurlijk analysekader, geen reeds gevalideerde wetenschappelijke maatstaf.
Stel dat een agentisch ontwikkelsysteem honderd wijzigingen per dag produceert en de onafhankelijke evaluatiecapaciteit beperkt blijft tot twintig per dag. Wanneer alle wijzigingen dezelfde controle vereisen, groeit de ongecontroleerde voorraad met tachtig per dag. Omdat wijzigingen verschillen in risico, moet assurance debt risicogewogen worden gemeten. Een werkbare eerste definitie:
assurance debt = som van openstaande verificatieverplichtingen, gewogen naar risico, ouderdom en impact
Een completere maatstaf houdt ook rekening met onzekerheid over de betrouwbaarheid van automatische verificatie. Dit maakt duidelijk waarom meer AI-agents niet automatisch leidt tot meer organisatorische capaciteit: als generatiecapaciteit stijgt zonder overeenkomstige groei in verificatiecapaciteit, neemt de hoeveelheid niet-beoordeelde verandering toe, en wordt het systeem sneller maar mogelijk minder bestuurbaar.
Een tweede probleem ontstaat wanneer dezelfde of nauw verwante modellen zowel oplossingen genereren als hun kwaliteit beoordelen, waardoor fouten gecorreleerd kunnen zijn. Twee agents die overeenstemming bereiken, leveren geen sterk onafhankelijk bewijs wanneer zij dezelfde aannames, trainingsdata of evaluatiefouten delen. Cross-modelvalidatie kan helpen maar is geen garantie voor statistische onafhankelijkheid. Voor hoogwaardige assurance zijn onafhankelijke testorakels, menselijke steekproeven, adversariële evaluatie, reproduceerbare uitvoering en controle op benchmarkcontaminatie nodig. Het doel is niet AI-verificatie te vermijden, maar te voorkomen dat de verificatieketen volledig afhankelijk wordt van dezelfde mechanismen waarvan zij de betrouwbaarheid moet vaststellen.
8. Een architectuur voor verifieerbare AI-versnelling
De strategische consequentie is dat AI-governance operationeel moet worden geïntegreerd in de architectuur van AI-ontwikkeling, via vijf samenhangende control planes.
De capability control plane registreert welke capaciteiten een model bezit, onder welke omstandigheden zij zijn gemeten en hoe prestaties veranderen; naast publieke benchmarks zijn private holdouts en realistische taakdistributies nodig. De execution control plane bepaalt welke acties agents mogen uitvoeren, op basis van Zero Trust: beperkte bevoegdheden, gescheiden identiteiten, taakgebonden autorisatie en kortlevende credentials; een verbeterde modelcapaciteit mag nooit automatisch resulteren in uitgebreidere privileges. De evidence control plane maakt elke betekenisvolle systeemwijziging herleidbaar naar de relevante taak, gebruikte modellen, invoergegevens, configuraties, tools en acceptatie; logs alleen zijn onvoldoende, de organisatie moet kunnen vaststellen of een wijziging daadwerkelijk is gevalideerd. De learning control plane onderscheidt strikt tussen gegenereerde voorstellen, uitgevoerde experimenten, gevalideerde verbeteringen en behouden capaciteiten; een agent die een verbetering rapporteert, heeft die nog niet bewezen. De governance control plane vertaalt bewijs naar besluitvorming en bepaalt onder welke voorwaarden nieuwe modellen of autonomiegraden worden toegelaten, met indicatoren als verificatieachterstand, incidenten en de tijd tussen ontdekking en beheersing van risico's; een releaseproces moet aantoonbaar kunnen blokkeren, terugdraaien en escaleren. Dat is een technische eigenschap van bestuurbaarheid, geen administratieve formaliteit.
9. De vertaalslag naar autonome agentplatforms
Voor autonome agentplatforms is het METR-onderzoek vooral waardevol als toetssteen voor de eigen architectuur. Het centrale ontwikkeldoel moet niet zijn om zoveel mogelijk agents, experimenten of zelfverbeteringscycli te laten uitvoeren, maar om de hoeveelheid onafhankelijk geverifieerde, blijvende verbetering per eenheid tijd en middelen te maximaliseren.
Daarvoor kan een truth-cost accounting model worden gebruikt:
truth cost = totale experiment-, uitvoerings- en verificatiekosten / aantal onafhankelijk gevalideerde verbeteringen
Deze maatstaf is alleen bruikbaar wanneer verbeteringen vooraf operationeel worden gedefinieerd en niet achteraf door dezelfde agent worden geclaimd. Een aanvullende uitdaging is selectiebias: wanneer alleen succesvolle runs worden gemeten, verdwijnen mislukte of niet-verifieerbare runs uit de statistieken. Het systeem moet daarom naast organische uitvoeringen ook onafhankelijke, vooraf gespecificeerde testtaken gebruiken, met expliciete registratie van ontbrekende en gecensureerde uitkomsten. Synthetische tests met bekende antwoorden kunnen evaluatie ondersteunen, maar identificeren niet automatisch alle vertekeningen in echte productietaken.
Een volwassen agentplatform heeft vier aantoonbare voorwaarden nodig voor evolutionaire verbetering: een beoordelingsmechanisme dat daadwerkelijk kan falen, zinvolle variatie die de uitgevoerde werkzaamheden bereikt, duurzame retentie van gevalideerde verbeteringen en selectie op basis van onafhankelijke uitkomsten. Zonder deze voorwaarden kan een systeem aanzienlijke activiteit genereren zonder aantoonbaar te evolueren. De relevante succesmaatstaf wordt daarmee niet het aantal gegenereerde verbeteringsvoorstellen, maar de netto waarde van behouden verbeteringen na aftrek van kosten, regressies en verificatieachterstand.
10. De betekenis voor publieke organisaties en gereguleerde sectoren
Het onderzoek heeft ook implicaties voor organisaties die zelf geen frontier-modellen ontwikkelen. Wanneer de mogelijkheden van externe modellen sneller veranderen, verkort de periode waarin een eerdere leveranciersbeoordeling, securitytest of DPIA voldoende representatief blijft. Een organisatie kan vandaag een model valideren en enkele maanden later met substantieel andere capaciteiten of risico's geconfronteerd worden. Statische leveranciersbeoordelingen zijn daarom onvoldoende als exclusieve beheersmaatregel.
De EU AI Act stelt, waar toepasselijk, eisen aan risicobeheer, logging, menselijk toezicht en robuustheid van hoogrisico-AI-systemen; niet ieder intern onderzoeksinstrument of agentplatform valt automatisch onder die categorie, en de concrete toepassing en wettelijke uitzonderingen moeten per systeem worden beoordeeld. Het NIST AI Risk Management Framework biedt aanvullend een bestuurlijk raamwerk via GOVERN, MAP, MEASURE en MANAGE, en de richtlijnen van OWASP voor agentische toepassingen helpen specifieke aanvalsvectoren te adresseren.
Voor de Belastingdienst, een ministerie of een gemeente die AI inzet binnen besluitvormingsondersteuning, juridische processen of gegevensverwerking, betekent dit dat leveranciersafspraken meer moeten omvatten dan beschikbaarheid en algemene verantwoord-AI-beloften. Er moeten toetsbare afspraken bestaan over modelversies, wijzigingen in capabilities, onafhankelijke evaluatie, incidentmeldingen, toegang tot bewijs, gegevensbescherming en operationele exitmogelijkheden. Een leverancier die inzicht in zijn modelontwikkeling beperkt, hoeft niet per definitie onbetrouwbaar te zijn; maar wanneer daardoor wezenlijke risico's niet onafhankelijk kunnen worden vastgesteld, moet die beperking zichtbaar worden gemaakt in de risicoacceptatie. Afwezigheid van controleerbaar bewijs is niet hetzelfde als bewijs van afwezigheid van risico.
11. Wat te doen: een agenda voor negentig dagen
De bestuurlijke reactie hoeft niet te wachten op nieuwe wetgeving. In de eerste dertig dagen behoort een organisatie vast te stellen waar AI-agents zelfstandig onderzoek, codewijzigingen of configuratieaanpassingen uitvoeren, en per proces de beschikbare bewijsstukken, bevoegdheden en verificatiemechanismen in kaart te brengen. In de daaropvolgende dertig dagen kunnen onafhankelijke evaluaties worden ingericht voor de processen met het hoogste risico, met realistische controletaken, vooraf bepaalde acceptatiecriteria en gescheiden verificatie. In de laatste dertig dagen moet de governance operationeel worden gemaakt via release gates, risicogewogen verificatieachterstanden, reproduceerbare auditinformatie en aantoonbare rollbackmogelijkheden.
Het bestuur ontvangt vervolgens geen dashboard met uitsluitend het aantal agents en bespaarde uren, maar een samenhangend beeld van gevalideerde waarde, resterende onzekerheid en de mate waarin menselijke en technische controle het veranderingsritme nog kan bijhouden.
12. Conclusie: de echte grens ligt mogelijk bij verifieerbaarheid
Het METR-onderzoek toont niet aan dat Anthropic volledig autonome recursieve zelfverbetering heeft bereikt, noch dat AI binnen iedere organisatie vergelijkbare versnellingen zal veroorzaken. Het levert wel substantiële aanwijzingen dat AI de ontwikkeling van verdere AI-capaciteiten aanzienlijk versnelt, met een centrale benchmarkschatting van circa 1,9× en een plausibele belangrijke bijdrage van AI-ondersteuning.
Minstens zo relevant is wat het onderzoek niet volledig kan vaststellen. De causale toeschrijving blijft onzeker, het belangrijkste interne bewijs is grotendeels niet publiek controleerbaar, de statistische uitkomst is gevoelig voor methodologische keuzes, en de vertaling van benchmarks naar maatschappelijke impact blijft problematisch. Daarmee wordt duidelijk waarom de governance van AI-systemen niet uitsluitend kan worden ingericht rondom periodieke reviews of statische compliance-documentatie. Zodra AI de eigen ontwikkelcyclus versnelt, verandert ook het tempo waarin nieuwe risico's en onzekerheden ontstaan. Het centrale bestuurlijke vraagstuk verschuift dan van "kunnen we AI sneller laten ontwikkelen?" naar "kunnen we de gevolgen sneller en betrouwbaarder verifiëren dan het systeem nieuwe onzekerheid produceert?".
Dat is geen argument tegen innovatie, maar een architectuurprincipe voor innovatie die bestuurbaar blijft. De volgende concurrentievoorsprong zal niet uitsluitend voortkomen uit sneller ontwikkelen, maar uit sneller aantoonbaar gelijk krijgen, fouten herkennen en onbetrouwbare verbeteringen afwijzen. Wie die verificatiecapaciteit niet structureel ontwikkelt, betaalt technische versnelling met een groeiende schuld aan onbewezen aannames; en juist die schuld kan uiteindelijk de grootste beperking vormen voor betrouwbare autonome AI.
Zie ook
- Kabinetsvisie AI: misalignment als nationale veiligheid - de Nederlandse vertaling van hetzelfde risico: systemen waarvan de ontwikkelaar zelf de uitkomst niet volledig voorspelt.
- Van het tijdperk van schalen naar het tijdperk van onderzoek - de verschuiving waarin AI-R&D zelf de nieuwe schaalfactor wordt.
- Frontier-lab inbraak: lessen voor de Nederlandse overheid - wat autonome frontier-agents betekenen voor Nederlandse publieke organisaties.
Bronnen
De empirische claims zijn afkomstig uit de genoemde onderzoeken. Het model van assurance debt, de control-plane-architectuur en het truth-cost-model zijn analytische voorstellen, geen door METR gevalideerde empirische resultaten.
- Independent Assessment of AI R&D Acceleration at Anthropic in October 2026, Cunningham, Rush, Whitfill en Wijk, METR, 5 november 2026
- Review of the "Risks from automated R&D" section in Anthropic's Risk Report, METR, 5 november 2026
- How an Assessor Could Investigate Evidence of Acceleration from the Automation of AI R&D, METR, 14 oktober 2026
- Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity, Becker et al., METR, 2025
- We Are Changing our Developer Productivity Experiment Design, Becker et al., METR, 24 februari 2026
- Task-Completion Time Horizons of Frontier AI Models, METR, 2026
- Artificial Intelligence Risk Management Framework, NIST
- OWASP Top 10 for Agentic Applications 2026, OWASP
- Verordening (EU) 2024/1689 (AI-verordening), EUR-Lex
AI & Security Intelligence
Wekelijkse nieuwsbrief met AI updates, security alerts en compliance inzichten, direct in uw inbox.
Security & AI Operating Model
Advisory met executiekracht
Van BIO2 en NIS2 tot EU AI Act, embedded in uw operating model, niet als extern project. Maandelijks opzegbaar, met assessments als bewijsvoering.