A.I. bij werving en selectie, wat zijn de kansen en risico’s?

0
198

A.I. bij werving en selectie: wat zijn de kansen en risico’s?

HvA heeft hier onderzoek naar gedaan voor gemeente Amsterdam.
Als de machine kiest
Van online games om de beste kandidaat te selecteren, tot software die sollicitatiebrieven analyseert: A.I. rukt op binnen de werving en selectie van nieuw personeel.

Wat zijn de kansen en risico’s van deze ontwikkeling? En hoe kunnen we de risico’s zoveel mogelijk beperken?

Dit hebben associate lector Pascal Wiggers en onderzoeker Hans de Zwart van de Hogeschool van Amsterdam onderzocht in opdracht van gemeente Amsterdam. Hun onderzoeksrapport ‘Als de machine kiest’ verschijnt deze week.

A.I. wordt toenemend ingezet bij werving en selectie van nieuw personeel. Algoritmes bepalen wie een vacature ziet, of welke kandidaat het beste uit een online assessment komt. Maar leidt het tot eerlijkere kansen als de machine kiest in plaats van een recruiter? In sommige gevallen kan A.I. daarbij helpen, maar dat brengt wel de nodige risico’s met zich mee; zo constateren associate lector Applied A.I. Pascal Wiggers en onderzoeker Hans van de Zwart (HvA). In hun rapport Als de machine kiest: diversiteit en inclusie beschrijven zij de kansen en risico’s van deze ontwikkeling.

De onderzoekers interviewden ruim 20 leveranciers van wervings- en selectie-software, recruitmentspecialisten en organisaties die dit soort software gebruiken. Daarnaast deden zij literatuuronderzoek.

Welke kansen biedt A.I.?
De onderzoekers beschrijven in het rapport allereerst de volgende kansen van kunstmatige intelligentie voor eerlijkere werving en selectie:

Uniforme screening
A.I. wordt momenteel al ingezet vanaf de eerste fase: de vacature. Zo is er software die vacatureteksten screent op inclusief taalgebruik, en op ‘bias’, oftewel onbewuste voorkeuren. Zo is bekend dat op bepaalde gevraagde vaardigheden, zoals ‘stressbestendig’ of ‘commercieel’ vooral mannen reageren. De software reikt synoniemen aan waar vrouwen zich ook in herkennen.

Voor de selectiefase zijn er AI-tools die cv’s doorlopen en persoonlijkheidskenmerken verwijderen, zoals naam en gender. Ook is er software die analyseert wie bepaalde vaardigheden heeft.

Groter bestand aanboren
Bepaalde software maakt het daarnaast mogelijk om bij outsourcing gerichter en in een groter aantal databases te zoeken, om zo kandidaten of groepen te vinden die eerder niet in beeld waren. Zo kunnen organisaties een diverser en groter bestand aan kandidaten doorzoeken dankzij A.I.

Bias (soms) beter controleerbaar
Het resultaat van AI-systemen is in sommige gevallen beter zichtbaar en meetbaar dan de uitkomsten van een selectieproces door recruiters. Een menselijke bias is in die zin moeilijker te meten.

Wanneer een uitkomst via A.I. te denken geeft – zoals bij het bekende Amazon-experiment– en een algoritme bias blijkt te bevatten, kan een organisatie het algoritme bijstellen.

Efficiëntie
Tot slot biedt A.I. voordelen qua efficiëntie. Met name grote organisaties kunnen hiermee delen van het wervings- en selectieproces automatiseren. Zo hoeft een leidinggevende of HR-medewerker niet zelf honderden brieven te lezen.

Wat zijn de risico’s?
De onderzoekers benoemen daarnaast de risico’s van de toenemende inzet van A.I. bij werving en selectie:

Status quo versterkt
Het eerste reële risico van A.I. is dat dit een ‘bias’ verder versterkt. Zo wordt momenteel al software ingezet, die bij een vacature automatisch een profiel opstelt van de ideale kandidaat. De software stelt dit samen uit kwaliteiten van de best presterende medewerkers van een organisatie; de huidige medewerkers dus.

Stel het grootste deel van het huidige personeel is man en onder de 40, dan worden deze kenmerken meegenomen, en is de kans groot dat een A.I.-systeem dit aan succes linkt.

Veel betrouwbare data nodig
Dat legt meteen het volgende probleem bloot: alleen met grote hoeveelheden betrouwbare data kan een A.I.-systeem tot betrouwbare conclusies komen. Bedrijven moeten zelf over deze data beschikken, wat veel kosten en arbeidsuren met zich meebrengt.

Specifieke personen kunnen benadeeld worden
Omdat A.I. systemen gebaseerd zijn op statistiek, kunnen zij slecht omgaan met individuen die op een of andere manier afwijken van de norm. Zelfs als je maatregelen treft om de uitkomsten voor bepaalde groepen eerlijker te maken, dan nog kun je specifieke individuen niet beschermen. Een sterk afwijkend cv is voor kunstmatige intelligentie dan ook moeilijk te plaatsen.

Bias wordt systematisch
Data zorgvuldig selecteren, en eisen stellen aan uitkomsten, helpen om bias van een AI-systeem tegen te gaan. Toch biedt dit geen garantie dat een systeem niet discrimineert. De technologie is dusdanig complex, dat vormen van bias alsnog aan de aandacht kunnen ontsnappen. Het risico bestaat dat zo’n bias structureel wordt, wanneer de technologie opschaalt.

Conclusie: zeker niet feilloos
De conclusie, aldus de onderzoekers: kunstmatige intelligentie is zeker niet feilloos. Geen enkele tool is 100 procent betrouwbaar, en op zichzelf staand toereikend. En hoewel AI mogelijk voordelen biedt voor het vergroten van inclusie en diversiteit, biedt het ook zeker zoveel nadelen.

Alle ontwikkelaars en leveranciers van kunstmatige intelligentie die de onderzoekers spraken, benadrukten dan ook dat het om adviessystemen gaat; de technologie kan géén sollicitatiegesprekken vervangen, maar een aanvulling bieden.

“Blijf A.I. vooral toetsen, richt je processen zo in dat A.I. inderdaad een adviesrol heeft en geen beslissingen neemt”, aldus de onderzoekers. “En koppel resultaten terug aan de kandidaat. Want A.I is nooit af.”

Bedrijfsleven ondersteunen
Met dit rapport hoopt de gemeente Amsterdam het gesprek op gang te brengen rond de opmars en toepassing van A.I. bij werving en selectie, en de ethische vraagstukken daarbij. Doel is om vooral het lokale bedrijfsleven hierbij te ondersteunen, en bedrijven in de toekomst te helpen om de technologie op een verantwoorde manier toe te passen.

Vragen die de gemeente hierbij voor ogen houdt, zijn: hoe benutten we ook de kansen die kunstmatige intelligentie biedt? En hoe zorgen we ervoor dat belangrijke ethische en juridische waarden gewaarborgd blijven bij A.I.-toepassingen?

Bron: HvA, 17 mei 2022