College Rechten van de Mens: algoritmes vacaturesites vooringenomen

Doordat sommige algoritmes van vacaturesites onvoldoende genderneutraal zijn, bereiken online vacatures niet altijd de juiste kandidaten en vice versa. Zo komt het voor dat een werkzoekende na het intikken van een zoekterm als ‘lerares’ minder vacatures te zien krijgt dan bij de zoekterm ‘leraar’ of ‘docent’. Tegelijkertijd kunnen zoekalgoritmes vooringenomenheid ook juist tegengaan. Een en ander blijkt uit onderzoek dat de Utrecht Data School (UDS) van de Universiteit Utrecht in opdracht van het College voor de Rechten van de Mens uitvoerde.

“Computers zijn niet immuun voor genderongelijkheid”, legt college-voorzitter Adriana van Dooijeweert uit. “Als vrouwen minder of minder geschikte vacatures zien dan mannen, hebben zij minder kansen op de arbeidsmarkt. Het is een onbedoeld effect van de werking van de algoritmes die deze websites gebruiken. Wij vinden het daarom belangrijk dat bij vacaturesites te gebruiken algoritmes goed onder de loep worden genomen.” 

Geen discriminatie op profielkenmerken

De Utrecht Data School onderzocht eerst of er aanwijzingen waren van discriminatie bij het koppelen van kandidaten aan beschikbare vacatures op online vacatureplatformen. Hiervoor maakten de onderzoekers op vier grote Nederlandse vacaturesites nepprofielen aan van kandidaten die varieerden in geslacht, etniciteit en leeftijd. 

Per profiel zochten de onderzoekers naar verschillende functietitels en vergeleken de zoekresultaten tussen de profielen. Bij deze verkenning vond de UDS geen aanwijzingen voor mogelijke risico’s op discriminatie op basis van de onderzochte profielkenmerken.

Gendergekleurde zoektermen

Een zoekopdracht kan echter wel nadelig uitpakken als een werkzoekende zoektermen gebruikt die niet genderneutraal zijn, zoals ‘lerares’ of ‘timmerman’. Bepaalde beroepen kunnen vanwege heersende genderstereotypen als typisch mannelijk of vrouwelijk worden gezien, zowel door werkgevers, softwareontwikkelaars als werkzoekenden. Deze maatschappelijke vooringenomenheid kan van invloed zijn bij het gebruik van algoritmische zoekfuncties op vacaturesites. 

Een (vrouwelijke) werkzoekende die bijvoorbeeld op ‘lerares’ zoekt, zou idealiter dezelfde vacatures te zien moeten krijgen als iemand die zoekt op ‘leraar’ of ‘docent’. De UDS-onderzoekers ontdekten dat dit niet voor alle vacaturesites altijd het geval is. Zo leverde een zoekopdracht met ‘lerares’ als functietitel op een van de sites beduidend minder vacatures op dan de mannelijke (‘leraar’) of neutrale variant (‘docent’). Terwijl op de andere vacaturesites deze zoektermen juist wel leidden tot vergelijkbare zoekresultaten. 

Vooringenomenheid soms zelfs versterkt

De zoektermen ‘secretaresse’ (hoewel dit tegenwoordig niet uitsluitend vrouwen aanduidt), ‘schoonmaakster’ en ‘verpleegster’ worden op alle onderzochte vacaturesites weinig “geneutraliseerd”. Ze laten hierdoor alleen vacatures zien met exact deze functietitels. Zo wordt maatschappelijke vooringenomenheid gereproduceerd in het zoekalgoritme. 

Het viel de onderzoekers ook op dat het taalgebruik in sommige vacatures nadrukkelijk is gericht op één geslacht, bijvoorbeeld vacatures voor secretaresses die gericht zijn op vrouwen. Opvallend was ook dat soms bij gebruik van een “typisch vrouwelijke” functietitel als zoekterm, de sites lager betaalde functies toonden. 

Zo zochten de onderzoekers op één site met de zoekterm ‘lerares’ en liet de website vervolgens een functie voor ‘onderwijsassistent’ zien, terwijl die vacature na het invoeren van de zoekterm ‘leraar’ niet naar boven kwam.

Algoritmes kunnen vooringenomenheid corrigeren

Het onderzoek van UDS laat zien dat algoritmes dergelijke maatschappelijke vooringenomenheid ten aanzien van genderstereotiepe beroepen kunnen tegengaan, maar dus ook kunnen reproduceren of soms zelfs versterken. Een achterliggende verklaring lijkt volgens de UDS te liggen in hoe simpel of complex de algoritmes achter de zoekfuncties zijn.

Een simpel zoekalgoritme dat alleen letterlijk de ingevoerde zoekterm overneemt, is niet in staat om vooringenomenheid tegen te gaan, maar zal die reproduceren. Een zoekalgoritme dat complexere methoden gebruikt, kan ook vooringenomenheid reproduceren of zelfs versterken, maar in potentie ook corrigeren.
 
Vacaturesites wordt daarom aanbevolen om te werken met meer complexe algoritmes die vooringenomenheid kunnen tegengaan. Het College heeft de beheerders van de onderzochte websites geïnformeerd over de onderzoeksuitkomsten en uitgenodigd om deze nader te bespreken. 

Discriminatie

Discriminatie op vacaturesites wordt op verschillende manieren gemakkelijk gemaakt. Zo toonde recent onderzoek in opdracht van de Inspectie SZW aan hoe makkelijk discriminerende vacatureteksten op vacaturesites geplaatst kunnen worden en dat sommige vacaturesites de mogelijkheid bieden om kandidaten te filteren op basis van geslacht, nationaliteit, leeftijd of maximale werkervaring.

Bron: College Rechten van de Mens