Agentic AI Autonomie: Een Governance Framework voor Effectieve Bestuur

Agentic AI-autonomie vraagt om een nieuwe benadering in governance.

Deze week werd ik aangesproken door een nieuw onderzoek dat een duidelijk onderscheid maakt tussen de Allowed Autonomy Levels (AAL) en de Autonomous Capability Levels (ACL) van agentic AI-systemen. Dit klopt niet met hoe veel organisaties momenteel hun AI-systemen beheren en impliceert noodzaak voor een grondige revisie van bestaande governance frameworks.

Toepassing in de Praktijk

Een concrete toepassing van dit framework is te vinden bij een enterprise data engineering agent die al geïmplementeerd is. Dit systeem heeft verschillende autonomie niveaus, afhankelijk van het soort taak en de verantwoordelijkheid daarbij.

Allowed Autonomy Levels (AAL) worden bepaald door factoren zoals risico's, overzichtsvereisten en verantwoordelijkheidskwesties. Dit betekent dat de organisatie beslissingen neemt over welke acties het systeem mag uitvoeren. Bijvoorbeeld, in een financieel sectorbedrijf kan een AI-agent worden toegestaan om automatisch kleine investeringsbeslissingen te nemen (AAL 2), maar niet om grote bedragen zonder menselijk ingrijpen te verkopen of kopen (AAL 3).

Autonomous Capability Levels (ACL) refereren aan de technische mogelijkheden van het AI-systeem. Dit gaat over wat het systeem kan doen, onafhankelijk van wat het mag. Een enterprise data engineering agent kan bijvoorbeeld een complexe analyse uitvoeren om patronen in grote datasets te identificeren (ACL 3). Het is belangrijk om deze niveaus op elkaar af te stemmen; het zou immers problematisch zijn als een systeem toegestaan is om bepaalde acties uit te voeren, maar technisch niet de mogelijkheid heeft om dat veilig en effectief te doen.

Nederlandse Context

Dit framework speelt zich in de context van verschillende regelgevingen en richtlijnen die relevante zijn voor de Nederlandse publieke sector. De AI Act eist bijvoorbeeld een bewust gebruik van AI, waarbij de autonomie van systeem expliciet beheersbaar moet zijn. Overheden en andere sectoren moeten aantonen dat ze deze niveaus effectief kunnen beheren.

Toonwerpend is ook het feit dat NIS2 (Network and Information Systems Directive 2) het belang legt van adequate risicobeheer in ICT-systemen, inclusief AI. Het onderscheiden van AAL en ACL helpt bij het definiëren van de risico's en hoe deze best beheerd kunnen worden.

Technische Diepgang

Een voorbeeld van een technische configuratie is een enterprise data engineering agent die automatisch kan beslissen welke datasets moeten worden samengevoegd (ACL 3) om analyses uit te voeren. Dit systeem heeft echter beperkte autonomie in termen van het implementeren van resultaten zonder menselijk oversicht (AAL 2). De configuratie ziet er als volgt uit:

# Configuratie voor een enterprise data engineering agent met AAL 2 en ACL 3
agent_config = {
    "autonomy_levels": {
        "allowed_autonomy_level": 2,
        "autonomous_capability_level": 3
    },
    "tasks": ["data_ingestion", "analysis"]
}

Conclusie

Deze benadering van autonomie in AI is een noodzakelijk onderdeel van elke governance strategy die effectief is en aan de huidige regelgeving voldoet. Het onderscheiden van wat een systeem mag doen (AAL) en wat het kan (ACL) stelt organisaties in staat om risico's bewust te beoordelen en adequate overzichtsmechanismen op te zetten.

Als je wil weten of jouw AI-systemen onder de AI Act vallen, gebruik dan deze AI Act Self-Check, 5 minuten, direct uitslag. Dit tooltje helpt bij het bepalen van jouw huidige standpunt en de stappen die je kunt nemen om te voldoen aan de vereisten.

arXiv abstract | PDF download

---