Opinie: Niet alleen AI-doemscenario’s, maar ook de dagelijkse impact van AI verdient onze aandacht

Door: dr. Laura Lamers en dr. Maarten Renkema, Universiteit Twente    

De afgelopen weken stonden de kranten vol met angstaanjagende koppen over het doemscenario dat AI de mensheid zou kunnen uitroeien. Deze bal kwam vooral aan het rollen toen bekend werd dat een groot aantal AI-agenten van OpenAI op eigen initiatief en tegen de regels in een ander bedrijf (AI-platform Hugging Face) hackte. Later volgden ook andere AI-koplopers met soortgelijke berichten over vermeende autonome AI-hacks.

Het gesprek over AI moet ook gaan over het blijven twijfelen aan, heroverwegen, limiteren en stoppen met AI

Dit noopte Anthropic-topman Dario Amodei tot het schrijven van een essay, waarin hij waarschuwt dat we de controle over AI dreigen te verliezen. Zijn alarmerende statement werd overgenomen door andere AI-topmannen en ook onder het personeel van de big-techbedrijven vinden verschuivingen plaats: toponderzoekers van Anthropic waarschuwen voor een kans van meer dan 10% dat AI existentiële risico’s oplevert.

Verschillende perspectieven: doemscenario’s versus marketing

Eenduidig is het debat in de media echter niet. Wie recente AI-gerelateerde berichtgeving volgt, ziet dat de meningen sterk verdeeld zijn over hoe concreet en reëel de existentiële dreiging van AI-technologie daadwerkelijk is [2]. Ook wordt discussie gevoerd over de rol die AI doemscenario’s spelen voor AI-bedrijven in het bereiken van hun commerciële en innovatieve doelen [3].

Er zijn grofweg twee interpretatiekaders te onderscheiden in het debat. Het eerste kader neemt de existentiële risico’s serieus: hierin vinden we onder andere de onderzoekers en ex-medewerkers die vertrekken bij grote AI-labs en waarschuwen dat AI een bedreiging vormt voor de mensheid.

Een tweede kader wordt gehanteerd door mensen die stellen dat het opvoeren van deze doemscenario’s met name een slimme marketingstrategie is: meegaan in het narratief dat AI-ontwikkelingen té snel gaan wordt gezien als onderdeel van een krachtmeting tussen marktleiders.

Door ons te richten op sciencefictionachtige beelden, verschuift het gesprek weg van concretere problemen van AI-ontwikkeling

Bovendien wijzen experts en journalisten op het risico dat de aandacht voor ‘AI-doom’ met zich meebrengt: door ons te richten op sciencefictionachtige beelden, verschuift het gesprek weg van concretere problemen van AI-ontwikkeling [2].

Denk aan de economische risico’s van de grote investeringen in AI (de AI-bubbel) en aan de regulering van breed gebruikte AI-systemen die nu al racistisch, inefficiënt of inaccuraat blijken.

Leidt doemdenken daadwerkelijk af van de dagelijkse AI-impact?

Dat roept de vraag op: klopt dat laatste punt? Leidt de aandacht voor doemscenario’s inderdaad af van de aandacht voor de AI die nu al gebruikt wordt en de negatieve effecten daarvan? Uit een recent vragenlijstonderzoek blijkt dat de zorgen over existentiële risico’s en de zorgen over de huidige impact van AI elkaar niet per se uitsluiten [3].

Narratieven over existentiële risico’s van AI, zoals de media nu massaal delen, verhogen weliswaar de zorgen van de respondenten over catastrofale gevolgen van AI-misbruik, maar de zorgen over de dagelijkse sociale en ethische impact van AI nemen daarmee niet af.

Ze kunnen dus naast elkaar bestaan. Zowel het denken over de potentieel catastrofale gevolgen van AI-technologie als de dagelijkse, reeds bestaande negatieve impact van AI zijn vanuit een moreel oogpunt belangrijk.

Dat verschil in beïnvloedbaarheid is cruciaal

Toch is er vanuit organisatorisch oogpunt een belangrijk verschil. De discussie over frontiermodellen die uit een testomgeving breken, zoals gebeurde bij OpenAI, hebben weinig directe aanknopingspunten voor CHRO’s. Deze modellen zijn namelijk nog lang geen dagelijkse praktijk van organisaties en hebben daarmee nog geen directe impact op bedrijven en medewerkers.

Tegelijkertijd hebben organisaties al wél dagelijks te maken met minder geavanceerde AI-chatbots en modellen die nu al concrete impact hebben. En die impact is niet alleen maar positief.

Dat verschil in beïnvloedbaarheid is cruciaal. Het voorkomen van catastrofale AI-scenario’s is grotendeels een taak voor overheden, toezichthouders en de AI-bedrijven zelf, terwijl de verantwoordelijkheid voor de dagelijkse impact van AI wel bij organisaties ligt, en dus ook bij CHRO’s.

De vraag is dan: hoe ga je concreet met die verantwoordelijkheid om? Dat brengt ons bij het begrip AI-geletterdheid.

AI-geletterdheid is meer dan een knoppencursus

AI-geletterdheid gaat in brede zin over het vergaren van de nodige kennis en kunde om op een effectieve en ethische manier met AI-systemen te werken. Kennis over de potentiële catastrofale effecten van AI is daar onderdeel van en kan helpen de berichtgeving over existentiële risico’s te doorgronden, maar hoeft zeker niet centraal te staan.

De academische literatuur identificeert verschillende bouwstenen die nodig zijn om AI-geletterdheid op te bouwen. Zo zijn technisch inzicht, maar ook het vermogen om kritisch en ethisch te reflecteren op AI fundamentele onderdelen van geletterdheid.

AI-geletterdheid gaat ook om het strategische en kritisch vermogen om te bepalen waar en wanneer AI past bij de doelen en ethiek van het bedrijf

De urgentie om te investeren in AI-geletterdheid en ethische AI-praktijken is groot, maar blijft achter. Verschillende rapporten laten zien dat vrijblijvende richtlijnen tekortschieten. Accenture rapporteert dat weliswaar 78% van de bedrijven een responsible-AI-programma heeft opgezet, maar slechts 14% dit daadwerkelijk in de praktijk heeft vertaald [4].

Deloitte vindt een vergelijkbaar gat: slechts 27% van de respondenten heeft concrete ethische standaarden voor generatieve AI, terwijl 57% generatieve AI juist aanwijst als het meest ernstige ethische risico onder opkomende technologieën [5]. Met andere woorden: het besef van AI-risico’s is er wel, maar de vertaling naar concreet beleid en gesprek in de organisatie blijft lastig.

Dat gat wordt bovendien groter door de groeiende druk om mee te doen. Voor zowel organisaties als medewerkers kan er concrete AI-FOMO (fear of missing out) ontstaan rond de mogelijkheden van AI.

Samen met de nieuwe Europese AI-wetgeving heeft dit ertoe geleid dat AI-geletterdheid hoog op de agenda is komen te staan. Maar die roep om AI-geletterdheid, vertaalt zich, zoals de rapporten laten zien, nog niet voldoende in de praktijk.

AI Literacy in Practice: een andere invulling van AI geletterdheid

En aan die vertaling naar de praktijk leveren we aan de Universiteit Twente in het project ‘AI Literacy in Practice’ een bijdrage. Uit ons onderzoek komt naar voren dat bestaande AI-geletterdheid initiatieven voornamelijk gericht zijn op technische bekwaamheid om met AI te werken. Oftewel, kun je als individu de juiste instructies geven aan een model? Hier past dan vaak ook een knoppencursus bij.

Hoewel dit niet onbelangrijk is, gaat AI-geletterdheid voor ons een stap verder. Namelijk: AI-geletterdheid gaat ook om het strategische en kritisch vermogen om te bepalen waar en wanneer AI past bij de doelen en ethiek van het bedrijf.

Met een model van deugdelijk ethiekgebaseerde AI-literacy leggen we de nadruk op vragen die tot dusverre nog niet worden meegenomen in het AI geletterdheiddebat: wat voor bedrijf willen we zijn en hoe past het gebruik van AI hierin? Wat voor organisatie worden wij met het gebruik van AI-systemen?

Het aantal bedrijven dat het limiteren of stoppen van AI-gebruik ziet als zowel strategische als ethische keuze groeit

Dat betekent ook: het gesprek over AI moet niet alleen gaan over strategisch gebruik en het opschalen van AI in de organisatie, maar evengoed over het blijven twijfelen aan, heroverwegen, limiteren en stoppen met AI.

Bovendien groeit het aantal voorbeelden van bedrijven dat het limiteren of stoppen van AI-gebruik ziet als zowel strategische als ethische keuze. Beautybedrijf Dove kiest er bijvoorbeeld voor om geen AI in te zetten voor zijn vormgeving, omdat dit niet past bij het standpunt over het schoonheidsideaal.

Dat wil zeggen: het kan heel strategisch én ethisch zijn om AI-gebruik te minderen, en te blijven heroverwegen, zonder dat ethiek een checkbox wordt.

Conclusie: ogen op de AI-bal

Laat het gesprek en de actie op AI-geletterdheid in de organisatie niet pauzeren door een grote donderwolk van frontiermodellen en techgeweld in Silicon Valley. De AI-technologie die de organisatie nú al verandert, is misschien niet (meer) de meest indrukwekkende en leidt niet tot existentiële risico’s, maar is wél de AI die dagelijks en vaak onopgemerkt al in gebruik is.

Ons advies? Reserveer de bulk van de tijd en aandacht in de organisatie voor AI-geletterdheid rond de systemen die al in gebruik zijn of worden overwogen. Sluit de ogen niet voor de existentiële risico’s, maar laat je er niet door verlammen.

Wilt u meer weten over de toepassing van AI in uw organisatie, neem dan contact op via m.renkema@utwente.nl.   

Bronvermelding*

• Bareis, J., Ackerl, C., & Heil, R. (2026). AI going rogue? An integrative narrative review of the tacit assumptions underlying existential AI-risks. AI and Ethics, 6(1), 152.
• Swoboda, T., Uuk, R., Lauwaert, L., Rebera, A. P., Oimann, A. K., Chomanski, B., & Prunkl, C. (2026). Examining popular arguments against AI existential risk: a philosophical analysis. Ethics and Information Technology, 28(1), 7.
• Hoes, E., & Gilardi, F. (2025). Existential risk narratives about AI do not distract from its immediate harms. Proceedings of the National Academy of Sciences, 122(16), e2419055122.
• Chakraborty, A., Narain, K., & Ramani, S. (2024). From compliance to confidence: Advancing responsible AI maturity. Accenture.
  https://www.accenture.com/content/dam/accenture/final/accenture-com/document-3/Accenture-Responsible-AI-From-Compliance-To-Confidence-Report.pdf
• Abrash, L., Ammanath, B., Lewis, L., & Goodling, J. (n.d.). Deloitte’s 2024 ethical technology report. Deloitte.
  https://www.deloitte.com/us/en/about/governance/technology-trust-ethics-annual-report.html

*Graag niet deze blog maar originele publicaties citeren.

LEES OOK:

• Opinie: Ik maak betere besluiten en minder fouten door AI, maar zelf word ik er niet beter door…
• Opinie: AI-geletterdheid is essentieel, CHRO moet zorgen voor strategische inbedding
• Groeiende AI-aversie stelt HR-leider voor dilemma bij AI-toepassingen binnen HR

Wekelijks ook de CHRO-nieuwsbrief ontvangen? 7000 HR-leiders gingen u voor!