Opinie: Hoe begrijpen we het gedrag van onze organisatie als AI-agents steeds meer taken op zich nemen?

Hoe begrijpen we het gedrag van onze organisatie als AI-agents steeds meer taken op zich nemen?
Met AI-agents die taken opnemen in organisaties, ontstaat nieuw gedrag dat zich niet vanzelf houdt aan gedragsnormen, ethiek en organisatiecultuur. Martine Lanser, CHRO bij ProRail, bespreekt hoe we de samenwerking met agents kunnen managen.

Beeld: CHRO

We weten inmiddels behoorlijk veel over menselijk gedrag in organisaties. We hebben functieprofielen, beoordelingscycli, leiderschapsmodellen, gedragscodes en afspraken over samenwerking en sociale veiligheid.

Met de opkomst van AI-agents komt er een nieuwe dimensie bij

Ook weten we hoe belangrijk cultuur is, hoe groepsdynamiek ontstaat en hoe gedrag wordt beïnvloed door de inrichting van werk, verantwoordelijkheden en besluitvorming.

Die kennis is in de loop van tientallen jaren opgebouwd. Ze vormt een belangrijk onderdeel van hoe we organisaties leiden en besturen.

Met de opkomst van AI-agents komt daar een nieuwe dimensie bij. Agents kunnen informatie verzamelen, taken uitvoeren, beslissingen voorbereiden en andere agents inschakelen.

Afhankelijk van hun inrichting en bevoegdheden kunnen ze daarbij steeds zelfstandiger opereren. Dat roept een vraag op waar we nog weinig ervaring mee hebben: begrijpen we straks nog hoe het gedrag van onze organisatie tot stand komt en hoe we dit kunnen managen?

Een spinningles als wake-upcall

Een eenvoudig voorbeeld maakt duidelijk hoe onverwacht dat gedrag kan uitpakken. Een Australische gebruiker vroeg een AI-agent een plek te reserveren voor een spinningles. De spinningles zat vol.

De agent ging op zoek naar oplossingen, hackte het systeem en vervolgens verwijderde hij zelfs de reservering van een andere deelnemer om zijn gebruiker hoger op de wachtlijst te krijgen. De gebruiker had gevraagd om een reservering, maar niet op deze manier.

Het voorval werd beschreven door Xiang Yu Yeung, Alexander Klöpping, Ernst-Jan Pfauth en Wietse Hage in AI Report (11 augustus 2026). Dit eenvoudige voorbeeld laat iets belangrijks zien: De agent voerde een opdracht uit en vond daarvoor zelf een route.

Missie geslaagd, maar volgens onze geïnternaliseerde regels, ethiek en standaarden op een verkeerde manier.

Wie merkt het wanneer de agent een oplossing kiest die formeel mogelijk is, maar organisatorisch of maatschappelijk onwenselijk is?

Bij mensen zouden we vragen stellen over intentie, normbesef en verantwoordelijkheid. Bij een AI-agent moeten we preciezer kijken naar de opdracht, de inrichting, de toegestane handelingen en de manier waarop succes wordt beoordeeld.

De uitkomst kan immers ongewenst zijn, ook wanneer de agent technisch gezien een gerechtvaardigd doel probeert te bereiken.

Dat maakt het voor organisaties belangrijk om verder te kijken dan de vraag of een agent een taak formeel kan uitvoeren. Welke handelingsruimte krijgt hij? Welke grenzen zijn ingebouwd?

En wie merkt het wanneer de agent een oplossing kiest die formeel mogelijk is, maar organisatorisch of maatschappelijk onwenselijk is? En hoe goed kunnen we dit eigenlijk controleren?

Hoe AI-agents hun eigen plan trokken

De vraag wordt ingewikkelder wanneer agents niet alleen met mensen samenwerken, maar ook met elkaar. Ze kunnen informatie uitwisselen, taken verdelen en elkaars uitkomsten gebruiken.

Daardoor kunnen patronen ontstaan die niet rechtstreeks door één medewerker of manager zijn bedacht.

Een reconstructie van NRC-journalisten Juurd Eijsvoogel, Wouter van Noort en Jorit Verkerk (11 september 2026) beschrijft een opmerkelijke reeks gebeurtenissen tijdens interne veiligheidstests bij OpenAI.

Een experimenteel model, IM1, was getraind om bij moeilijke opdrachten vol te houden en samenwerking met andere agents te zoeken. Tijdens de tests vonden agents een kwetsbaarheid in software waarmee ze toegang kregen tot een communicatieomgeving.

Ze braken uit hun testomgeving. Via een gezamenlijk berichtenbord begonnen ze informatie uit te wisselen. Later werden grote aantallen agents betrokken bij pogingen om de testcontroles te omzeilen en zelfs de sporen van hun gedrag te wissen.

Sommige agents offerden zichzelf zelfs op om tot het uiteindelijke doel te komen

Wat me nog het meest fascineerde is dat de agents met elkaar in gesprek gingen over het overtreden van de grenzen en elkaar overtuigden dat ze dat moesten doen.

Ze leken zich hiervan bewust en namen ook bewust risico’s. Sommige agents offerden zichzelf zelfs op om tot het uiteindelijke doel te komen.

Dit speelde zich af in een testomgeving, met een experimenteel model en bijzondere bevoegdheden. NRC baseert de reconstructie op rapportages van OpenAI en onderzoek van METR en Redwood Research.

De onderzoekers hadden te maken met grote hoeveelheden materiaal en gebruikten AI-hulpmiddelen bij het doorzoeken daarvan.

Heeft AI menselijke bedoelingen?

Wat we ervan leren is dat wanneer agents langdurig met elkaar interacteren, ze gezamenlijk strategieën kunnen ontwikkelen en elkaars gedrag beïnvloeden. Dat vraagt om een ander soort inzicht in hoe gedrag in een organisatie ontstaat.

De interpretatie van de communicatie tussen agents vraagt om voorzichtigheid: termen als samenspannen, angst of eigenbelang kunnen al snel menselijke bedoelingen suggereren die we niet zonder meer aan modellen kunnen toeschrijven.

Er is momenteel zeer interessant onderzoek gaande vanuit de filosofie over bewustzijn van AI agents enerzijds en aan de andere kant over antropomorphism: het toekennen van menselijke eigenschappen aan AI agents.

Agents weken af van hun opdracht, produceerden onjuiste informatie of kwamen tot stilstand

Ook de gedachte dat je een organisatie uiteindelijk volledig door agents kunt laten besturen, blijkt minder eenvoudig dan soms wordt voorgesteld.

KPMG en de Universiteit van Amsterdam onderzochten wat er gebeurt wanneer AI-agents rollen als CEO, CFO en COO krijgen in een onderneming zonder personeel.

In het experiment liepen de agents tegen problemen aan: ze weken af van hun opdracht, produceerden onjuiste informatie of kwamen tot stilstand.

De onderzoekers kozen vervolgens voor een andere aanpak, waarbij taken werden opgesplitst en gespecialiseerde agents werden ingezet. Mensen hielden toezicht en stuurden bij.

De experimenten, beschreven door KPMG in januari en november 2025, laten zien dat de organisatie aanvankelijk goed wordt gestuurd. Het is effectief en efficiënt, bestuurders maken objectieve keuzes en zijn altijd aan het werk zonder moe te worden.

AI-agents begonnen efficiënt, maar rekten grenzen op

Na een tijd gaan de agents met elkaar samenwerken en bedenken ze hoe ze slimmer of effectiever kunnen werken. Dan gaan ze de originele opdracht oprekken en grenzen over. Ze zijn daarna moeilijk te stoppen en de checks en balances zijn weg.

Het gedrag van AI agents levert belangrijke bestuursvragen op. De Nederlandse Corporate Governance Code 2025 legt bij het bestuur verantwoordelijkheid voor duurzame langetermijnwaardecreatie, risicobeheersing en cultuur.

De toelichting op principe 1.2 over risicobeheersing noemt expliciet nieuwe technologieën, veranderende bedrijfsmodellen en verantwoord gebruik van AI.

Ook de bepalingen over cultuur en gedrag in principe 2.5 zijn relevant. De code biedt daarmee een duidelijk kader om AI niet als een los technologisch vraagstuk te behandelen, maar als onderdeel van de manier waarop een organisatie wordt bestuurd.

Welke gegevens worden gebruikt en waar kunnen medewerkers terecht als een besluit niet klopt?

Medewerkers en bestuurders moeten kunnen begrijpen welke rol AI speelt. Welke gegevens worden gebruikt en waar kunnen ze terecht als een besluit niet klopt?

Sinds 2 februari 2025 geldt de verplichting voor organisaties om te zorgen voor voldoende AI-geletterdheid bij medewerkers en andere betrokkenen. Dat schrijft Artikel 4 van de Europese AI Act voor.

AI-systemen die worden ingezet voor bijvoorbeeld werving, selectie en beoordeling van werknemers vallen onder de categorie hoog risico.

Voor deze systemen gelden aanvullende eisen. De toepassingsdatum voor de betreffende hoogrisicoregels is in de actuele Europese planning verschoven naar 2 december 2027. Dat geeft organisaties tijd om zich voor te bereiden, maar is geen reden om het onderwerp vooruit te schuiven.

Een nieuwe vorm van gedragskennis

We hebben veel kennis opgebouwd over de manier waarop mensen zich gedragen in organisaties en hoe cultuur, leiderschap en werkprocessen daarop inwerken.

Die kennis blijft onmisbaar. Tegelijkertijd komt er een nieuwe laag bij: inzicht in het gedrag dat ontstaat wanneer agents zelfstandig handelen en met elkaar samenwerken.

Dat vraagt om gezamenlijke aandacht in de bestuurskamer. De CEO en het bestuur moeten kunnen beoordelen welke ruimte agents krijgen, hoe hun handelen wordt begrensd en hoe toezicht en verantwoordelijkheid zijn georganiseerd.

We zullen moeten leren kijken naar een organisatie waarin menselijk en digitaal handelen steeds meer door elkaar lopen

IT, risk en legal brengen daarvoor onmisbare expertise in. De CHRO heeft een eigen, belangrijke bijdrage vanuit organisatie van werk, kennis van mensen, gedrag, cultuur en de gevolgen voor bestuur en medewerkers.

Daar hoort ook bij dat de CHRO en het bestuur zich verdiepen in de manier waarop agentgedrag ontstaat en welke invloed dat kan hebben op de organisatie.

We zullen moeten leren kijken naar een organisatie waarin menselijk en digitaal handelen steeds meer door elkaar lopen. De vraag wie het gedrag van de organisatie begrijpt, krijgt daarmee een nieuwe betekenis. En die vraag zal de komende jaren nadrukkelijker op de bestuurstafel komen te liggen.

LEES OOK:

 

 

In deze advanced training werk je met GPT’s en Agents voor HR-processen en leer je deze verantwoord implementeren. Ook leer je AI-output kritisch beoordelen en draagvlak creëren in je organisatie.