Kenniscentrum faculteit Digitale Media & Creatieve Industrie

Als de machine kiest

Het gebruik van kunstmatige intelligentie in werving en selectie

Project

In opdracht van de Gemeente Amsterdam heeft het Responsible AI Lab van het Lectoraat Responsible IT onderzoek naar het gebruik van kunstmatige intelligentie in werving- en selectieprocessen. Daarbij is er specifiek gelet op de kansen en risico’s met betrekking tot het bevorderen van diversiteit en inclusie.

AIR: AI in Recruitment Discussietool

Als je er voor kiest om kunstmatige intelligentiesystemen binnen werving- en selectieprocessen te implementeren, dan moet je dat op een heel intentionele manier doen. En met een scherpe blik op de achterliggende waarden. De AI in Recruitment (AIR) Discussietool kan je daarbij helpen.

Hij bestaat uit 20 vragen binnen de thema's eerlijkheid, datagebruik, autonomie, bias, en validatie. Door als projectgroep bij de implementatie van AI na te denken en te discussiëren over deze vragen kun je de belangrijkste risico's vermijden.

AI in recruitment in beeld

Op deze infographic is te zien waar er allemaal kunstmatige intelligentie in het werving- en selectieproces ingezet wordt. Deze software neemt nu al regelmatig zelfstandige beslissingen. Bijvoorbeeld over wie er een vacature te zien krijgt, wiens cv goed genoeg past bij de vacature, of welke kandidaten qua soft-skills het beste passen bij het model van de ideale kandidaat. Steeds vaker is het de machine die kiest.

Het gebruik van AI in recruitment

In het werving- en selectieproces proberen organisaties in eerste instantie zoveel mogelijk geschikte kandidaten te laten solliciteren (sourcing) om daaruit dan de meest geschikte kandidaat te kiezen (selectie).

Voor allebei deze fasen van recruitment zijn er kunstmatige intelligentiesystemen op de markt die organisaties kunnen helpen bij het proces. Die technologieën hebben gevolgen voor wie er wel of niet worden geselecteerd en moeten dus uiterst zorgvuldig worden ingezet.

Voordelen

In potentie heeft dit soort technologie een aantal voordelen. Het zou bijvoorbeeld kunnen helpen bij het verminderen van bias binnen het proces. Irrelevante persoonskenmerken kunnen automatisch buiten beschouwing worden gelaten en je kunt een stuk makkelijker dan bij een menselijke recruiter meten op wat voor manier het systeem biased is. Ook zou technologie kunnen helpen bij het vinden van nieuwe groepen kandidaten die eerder nog niet in beeld waren.

De voordelen van het gebruik van kunstmatige intelligentie hebben daarnaast vooral te maken met efficiëntie. Delen van het proces kunnen worden geautomatiseerd, en de werkwijze kan meer uniform gemaakt.

Risico’s

Er kleven echter ook grote risico’s aan het gebruik van kunstmatige intelligentie binnen werving- en selectieprocessen. Omdat veel van de technologie uitgaat van de huidige (succesvolle) werknemers is er de kans dat je de (weinig diverse) status quo juist handhaaft.

Het is nooit uit te sluiten dat er hele specifieke vormen van bias met betrekking tot bepaalde groepen in het systeem blijven zitten, en dit soort systemen kunnen sowieso slecht omgaan met individuen die op een of andere manier afwijken van de norm. Die bias die – ook na een zorgvuldige implementatie – overblijft is dan wel meteen systematisch en schaalt mee met de inzet van de technologie.

Verder blijft het moeilijk om te valideren of de kunstmatige intelligentie die je inzet wel goed werkt.

Tot slot hebben dit soort systemen veel data nodig. Dit kan op het gebied van privacy en de vereiste dataminimalisatie problemen opleveren.

Het is nu al vaak de machine die kiest

Je hoort vaak dat we ons geen zorgen hoeven te maken over de inzet van kunstmatige intelligentie binnen werving- en selectie. Het is immers voorlopig nog steeds de mens die de uiteindelijke beslissing neemt. Dit klopt (vooralsnog) misschien nog wel voor het aannemen van de kandidaat, maar is allang niet meer het geval voor de kandidaten die worden afgewezen. Daar is het vaak al de machine die kiest, zonder enige menselijke tussenkomst.

Gepubliceerd door  Kenniscentrum FDMCI 4 juli 2022

Project Info

Startdatum 01 sep 2021
Einddatum 31 dec 2021

Contact

Pascal Wiggers
Hans de Zwart