Regelgeving beperkt gebruik AI bij personeelsselectie steeds verder

Is het gebruik van generatieve AI bij de werving en selectie van personeel strijdig met wetgeving? De Nederlandse Autoriteit Persoonsgegevens (AP) neigt naar ‘ja’, net als de Italiaanse en Spaanse toezichthouders en de European Data Protection Board (EDPB). Zo is de manier dubieus waarop ChatGPT vragen van gebruikers inzet om het algoritme te trainen. Ook de manier waarop OpenAI (het moederbedrijf van ChatGPT) persoonsgegevens op het internet verzamelt en gebruikt is verdacht.

Voor twee juristen was dit een aanleiding om het gebruik van generatieve AI (kunstmatige intelligentie die zelf informatie kan genereren) bij recruiting voldoet aan de wetgeving. Inge Brattinga, jurist bij VRF Adocaten, en Colette Cuijpers, universitair docent aan de Tilburg University, keken in hoeverre generatieve AI strijdig is met specifieke wetten en regels.

Grondwet en EU Handvest

Allereerst keken ze of het gebruik van generatieve AI op gespannen voet staat met de Grondwet en het Europees Verdrag voor de Rechten van de Mens. In Nederland wordt de bescherming van de privacy geregeld in artikel 10 Gw, artikel 8 EVRM en artikel 7 EU Handvest. De bescherming van mensenrechten en fundamentele vrijheden van individuen moeten in ogenschouw worden genomen bij het ontwikkelen en gebruik van een AI-toepassing.

Maar het recht op privacy is geen absoluut recht, er zijn uitzonderingen mogelijk, zoals bij economische noodzaak. Maar er moet dan wel stappen worden ondernomen om uit te maken of een uitzondering op zijn plaats is.

Het is duidelijk dat het gebruik van generatieve AI in recruitment inbreuk kan maken op de persoonlijke levenssfeer van kandidaten. Het AI-systeem kan immers ingezet worden om bij te dragen in het vormen van een oordeel over een kandidaat, mede op basis van gegevens over de specifieke kandidaten. Of dat mag hangt af van de interpretatie van de huidige wet- en regelgeving waarin selectieprocedures aan werkgevers zijn toegestaan.

Maar het is minder waarschijnlijk dat werving van personeel zo noodzakelijk is dat schending van de privacy door generatieve AI gerechtvaardigd is. Zeker gezien de risico’s op ingebouwde vooroordelen en disinformatie in generatieve AI.

Algemene Verordening Gegevensbescherming

Het fundamentele recht op bescherming van persoonsgegevens is in de Algemene Verordening Gegevensbescherming (AVG) nader uitgewerkt. Deze AVG is van toepassing bij verwerking van persoonsgegevens. Generatieve AI die vacatureteksten opstelt of het identificeren van vaardigheden valt niet onder de werking van de AVG.

Maar als een recruiter aan de generatieve AI vraagt om een profiel te maken van een specifieke kandidaat, of wanneer hij ontvangen sollicitaties invoert met de vraag om de beste kandidaat te selecteren, is de AVG van toepassing.

Het advies aan werkgevers is om het verwerken van persoonsgegevens niet toe te vertrouwen aan generatieve AI, hoe verleidelijk dat ook is. Bepalingen in de AVG over de doorgifte van persoonsgegevens naar derde landen staan in de weg. Een groot aantal leveranciers van generatieve AI is in Amerika gevestigd, dan wel in landen buten de EU.

Daarnaast verbiedt de AVG geautomatiseerde besluitvorming, inclusief profilering. AI-toepassingen die ingezet wordt bij personeelsselectie komt, doen bij uitstek aan geautomatiseerde profilering. Er moet sprake zijn van een menselijke tussenkomst bij het selecteren van personeel.

Waar generatieve AI wel een rol mag spelen is bij het traceren van mogelijke kandidaten. Maar een menselijke recruiter moet de definitieve selectie doen.

AI-verordening

Dit jaar wordt de AI-verordening van kracht in de EU. Die is van toepassing op generatieve AI. De AI-verordening werkt met een risicoclassificering. Hoe hoger het risico op inbreuk, hoe meer eisen er worden gesteld. Er zijn een aantal vooraf AI-systemen die een onacceptabel risico met zich meebrengen en dus verboden zijn.

Daarnaast zijn er AI-ystemen met een hoog risico. Dat zijn vooral de AI-systemen op het gebied van “werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid”, zo staat in de AI-verordening. Daar onder vallen ook AI-systemen die worden ingezet voor werving en selectie van personeel. Daar worden strenge eisen aan gesteld.

Voorts worden er kwaliteitseisen gesteld aan de data en het databeheer. Er moet technische documentatie worden opgesteld, nog voordat het AI-systeem op de markt wordt gebracht.

Verder bepaalt de AI-verordening dat gebeurtenissen automatisch geregistreerd moeten worden ten behoeve van evaluatie. Het AI-systeem moet voldoende transparant zijn voor gebruikers, er moe menselijk toezicht zijn en sprake zijn van een passend beschermingsniveau tegen misbruik. En tot slot moeten er voorschriften opgesteld worden voor de gebruikers.

Wet toezicht gelijke kansen bij werving en selectie

Op 14 maart 2023 is het wetsvoorstel Wet toezicht gelijke kansen bij werving en selectie door de Tweede Kamer aangenomen. Het wetsvoorstel is op dit moment in de Eerste Kamer in behandeling. Voorts is op 13 april 2023 het Besluit toezicht gelijke kansen bij werving en selectie aangenomen, de AMvB bij voornoemd wetsvoorstel. De bedoeling is dat er in de Arbeidsomstandighedenwet een hoofdstuk wordt toegevoegd ter voorkoming van arbeidsmarktdiscriminatie bij werving en selectie. In de wet wordt expliciet opgenomen welke informatie tenminste in de procedure moet worden opgenomen, waaronder informatieverschaffing aan de sollicitant over de sollicitatieprocedure. Bij gebruik van een geautomatiseerd systeem voor werving en selectie moet de werkgever zich ervan moet vergewissen hoe het geautomatiseerde systeem werkt en dat het systeem niet tot discriminatie leidt. Bij ChatGPT is het tot op heden onmogelijk gebleken om vast te stellen hoe de algoritmes werken.

Maar ook bij andere AI-systemen is het eerder regel dan uitzondering dat informatie over de werking van de algoritmes moeilijk, zo niet onmogelijk, is te verkrijgen.

Aansprakelijkheid

Bij gebruik van generatieve AI in het recruitmentproces ligt overtreding van diverse wet- en regelgeving op de loer ligt. Deze overtredingen kunnen leiden tot verschillende vormen van aansprakelijkheid. Toezicht op overtreding van de Wet toezicht gelijke kansen bij werving en selectie wordt door de Nederlandse Arbeidsinspectie uitgevoerd.

Naast een boete wordt het ook mogelijk dat inspectiegegevens openbaar worden gemaakt, het zogenaamde naming and shaming. Daarnaast kan er bij inbreuk op de wet sprake zijn van een onrechtmatige daad, wat kan leiden tot een schadeloossteling.