AI Act en AI-geletterdheid: hoe maak je HR-medewerkers klaar voor werken met AI-systemen?

AI-geletterdheid betekent dat alle medewerkers, ook ingeschakelde zzp’ers, en bestuurders voldoende kennis hebben van wat kunstmatige intelligentie is, hoe het werkt en welke juridische en ethische aspecten daarbij komen kijken.

Brede kennis van kunstmatige intelligentie in de organisatie wordt steeds belangrijker en is essentieel voor toekomstbestendige organisaties

Ook HR-medewerkers moeten dus kunnen inschatten wat de impact van AI op de organisatie is en begrijpen hoe je AI-systemen op een veilige en juridisch verantwoorde manier inzet. Dat deze verplichting uit de AI Act niet uit de lucht komt vallen bewijst ook recent onderzoek van NTT DATA.

Het rapport, The AI ​​Responsibility Gap: Why Leadership is the Missing Link, toont dat 81 procent van de 2300 ondervraagde leidinggevenden uit 34 landen wereldwijd duidelijker AI-leiderschap eist van hun organisatie; de leiders worstelen met het vinden van een evenwicht tussen innovatie, verantwoording en ethiek.

Innovatie stimuleren en kansen benutten

Brede kennis van kunstmatige intelligentie in de organisatie wordt steeds belangrijker en is essentieel voor toekomstbestendige organisaties. Het stelt ze in staat om innovatie te stimuleren en tegelijkertijd juridische risico’s te beheersen. AI kan besluitvorming, compliance en innovatie beïnvloeden.

Een bank kan bijvoorbeeld AI inzetten om leningen te beoordelen, waardoor beslissingen sneller worden genomen, regelgeving automatisch wordt nageleefd en innovatieve kredietmodellen ontstaan. Voor recruitment kan AI worden ingezet in het selectieproces.

AI kan ook helpen kansen te benutten en de basis vormen voor strategische beslissingen. Zo kan een organisatie AI-analyses implementeren om markttrends te voorspellen, als hulpmiddel om strategische beslissingen te nemen en nieuwe groeikansen te benutten.

Risico’s van niet AI-geletterdheid

Organisaties die niet AI-geletterd zijn kunnen risico’s lopen zoals:

• Verkeerde implementaties. Fouten in de implementatie van AI binnen een organisatie kunnen leiden tot ongewenste uitkomsten, zoals het introduceren van bias (bewuste of onbewuste algoritmische vooringenomenheid).
• Juridische conflicten. Wanneer AI inbreuk maakt op bijvoorbeeld de AVG of andere revelante wet- en regelgeving.
• Ethische problemen. Het gebruik van AI kan tot ethische dilemma’s leiden, zoals gebrek aan transparantie in besluitvorming.
• Onrealistische verwachtingen van AI. Als AI wordt gezien als een magische oplossing voor complexe problemen kan dit leiden tot verkeerde investeringen of teleurstellingen.
• Blind vertrouwen op leveranciers. Leveranciers kunnen AI als een ‘black box’ aanbieden, zonder juridische of ethische risico’s te belichten.

Benodigde kennis

• De basis: wat is AI en hoe werkt het?
• Hoe werkt de technische kant?
• Wat valt onder ‘verboden AI’ en wat zijn de wettelijke verplichtingen bij hoog risico AI, zoals een AI-recruitmentsysteem?
• Met welke ethische beginselen moet je rekening houden bij ontwikkeling en gebruik van AI?
• Databewustzijn: welke regels gelden er rondom de verzameling van data?

Aanpak

• Trainingen aan (HR-)medewerkers in praktische kennis over AI en wetgeving.
• Creëer een organisatiebreed AI-beleid, met kaders voor het gebruik van AI, inclusief richtlijnen over ethiek, transparantie en toezicht.
• Werk samen met juridische en technische experts voor begeleiding.
• Stimuleer samenwerking tussen mensen van verschillende afdelingen om bias in AI te voorkomen.
• Implementeer een monitoring- en feedbacksysteem, om AI-systemen continu te evalueren en verbeterpunten te signaleren.

Ook de Autoriteit Persoonsgegevens benadrukt dat organisaties hun (HR-)medewerkers moeten opleiden in AI-geletterdheid. Praktische handvatten daarvoor staan in ‘Aan de slag met AI-geletterdheid’.