Hiemstra, Annemarie

Nevels, I

Dutch

EUR Research Repository

12/5/2018 Algoritmes leiden niet automatisch tot eerlijkere selectie – Sociale Vraagstukkenhttps://www.socialevraagstukken.nl/algoritmes-leiden-niet-automatisch-tot-eerlijkere-selectie/ 1/4Steeds meer werkgevers zetten algoritmes in voor werving en selectie.Bij Nike en Unilever is het niet meer ongewoon om pas in de derderonde van de sollicitatieprocedure in gesprek te komen met eenmenselijke medewerker. Vooroordelen en ongelijkheid kunnen zo meerruimte krijgen, volgens Annemarie Hiemstra en Isabelle Nevels.Door Annemarie Hiemstra, Isabelle Nevels 3 december 2018Het aantal aanbieders van geautomatiseerde en digitale selectiemethoden neemt toe. Zovoorspelt het algoritme van het Nederlands-Chinese bedrijf Seedlink op basis vantaalgebruik van sollicitanten wie er het meest geschikt is voor een functie en maakt hetAmerikaanse HireVue gebruik van video-opnames om tot een automatisch gegenereerdebeoordeling te komen.Dit sluit nauw aan bij het huidige debat. Is het nog wel nodig om klassieke kennis,karaktereigenschappen en competenties, typisch gemeten met psychologischevragenlijsten en assessments, in kaart te brengen? Wellicht dat meer implicietepatronen, die via algoritmes herkend worden op basis van grote volumes data (zoalsgeschreven tekst, of video’s van sollicitanten), even goede of zelfs betere resultatenkunnen behalen bij het selecteren van de beste kandidaat.Organisaties hebben slechts de beschikking over hun eigen inschatting van demeerwaarde en eerlijkheid van selectie via computerondersteuning. Wetenschappelijkebewijs voor het gebruik van technologieën is er echter nog nauwelijks. Hoe kunnen weervoor zorgen dat computersystemen op een verantwoorde manier worden ingezet?Meer inclusiviteit dankzij de computer?Voorstanders van het gebruik van artificiële intelligentie voor personeelsvraagstukken,zoals algoritmes om kandidaten te screenen, stellen dat het kan leiden tot meerinclusieve werkomgevingen. Verschil in baankansen en promotie voor werkzoekendenen werknemers vanuit diverse minderheidsgroepen is immers nog steeds eenveelvoorkomend probleem.In veel Europese landen worden immigranten harder getroffen door werkloosheid. InNederland is het werkloosheidspercentage van inwoners met een migratieachtergrondmeer dan twee keer zo groot als dat van autochtonen. Daarnaast werken veel etnischeminderheden momenteel onder hun opleidingsniveau. Dit heeft veel te maken met hetfeit dat minderheidsgroepen gemiddeld slechter scoren op de meest valide selectie-instrumenten.Arbeid & Economie Wetenschap en innovatieAlgoritmes leiden nietautomatisch tot eerlijkereselectieWetenschappers & professionals over maatschappelijke kwesties12/5/2018 Algoritmes leiden niet automatisch tot eerlijkere selectie – Sociale Vraagstukkenhttps://www.socialevraagstukken.nl/algoritmes-leiden-niet-automatisch-tot-eerlijkere-selectie/ 2/4Computer heeft geen raciale voorkeurVoor veel organisaties is het dus van groot belang om gebruik van discriminerende enoneerlijke selectiemethodes te verminderen, terwijl kwaliteit van de wijze van selectiewel gewaarborgd wordt. De komst van selectiealgoritmes lijkt hiervoor eenveelbelovende oplossing.In tegenstelling tot menselijke beoordelaars kan een computer namelijk geen slechte daghebben. Bovendien heeft een computer meer capaciteit om informatie te verwerken ineen fractie van de tijd die een recruiter eraan kwijt zou zijn. Waar een menselijkebeoordelaar een sollicitant die veel op hem of haar lijkt zal prefereren, wordt eencomputer niet geleid door eigen voorkeuren. Dit kan bijdragen aan meer gelijke kansenvoor kandidaten van verschillende achtergronden.Algoritmes kunnen vooroordelen bevattenTegelijkertijd is er een groeiend besef, onder psychologen en computerwetenschappers,dat algoritmes voor selectie gemaakt zijn door mensen en dus gebaseerd zijn opmenselijke input. Het algoritme zelf is niet bevooroordeeld en behandelt allesollicitanten gelijk, maar als deze input vertekend is (biased), dan leert het algoritme ookom al deze vertekeningen mee te nemen. Zelfs als de persoon die het algoritme maakt ofimplementeert de beste bedoelingen heeft, kan een algoritme biased zijn.Een goede illustratie hiervan is de door Microsoft uitgebrachte chatbot, genaamd Tay.Het onderliggende algoritme van Tay was zo ontwikkeld dat het kon leren van onlineconversaties met gebruikers op verschillende sociale media platformen. Al binnen 1 dagmaakte de robot echter zulke racistische en seksistische opmerkingen en posts, dat Tayoffline moest worden gehaald.Een ander, subtieler voorval van algoritmische discriminatie op basis van geslacht, werdin 2015 aan het licht gebracht door wetenschappers aan de Carnegie Mellon University.Deze ontdekten dat advertenties op Google voor hoogbetaalde banen zes keer mindervaak getoond werden aan vrouwen dan aan mannen.Selectiealgoritmes kunnen sociale ongelijkheden vergrotenIn de organisatiecontext worden selectiealgoritmes vaak gebaseerd op historische dataof op kenmerken van personen die succesvol zijn in een organisatie. Hierbij wordenscores van sollicitanten vergeleken met uitslagen van de best presterende werknemersin een bedrijf.Wanneer deze groep bestaande werknemers niet representatief is voor de brede poolaan sollicitanten, dan kan dit nadelig zijn voor sollicitanten uit achtergestelde groepen.Dit geldt zowel voor selectieprocedures, als voor beslissingen promoties van bestaandewerknemers.Dit toont aan hoe machines accurate correlaties kunnen vinden in de data van eenbedrijf, die desondanks discriminerende resultaten laten zien. In plaats vanvermindering van sociale ongelijkheid kan computer-gebaseerde beslisondersteuningdus juist toetreding tot de arbeidsmarkt bemoeilijken en sociale ongelijkhedenvergroten.Onduidelijk welke factoren meegewogen worden12/5/2018 Algoritmes leiden niet automatisch tot eerlijkere selectie – Sociale Vraagstukkenhttps://www.socialevraagstukken.nl/algoritmes-leiden-niet-automatisch-tot-eerlijkere-selectie/ 3/4Een ander probleem bij digitale selectiemethoden is dat er vaak wel honderdenvariabelen worden meegenomen in de formules, waardoor ze te gecompliceerd zijn omgeïnterpreteerd te kunnen worden. Dit brengt een aantal ethische vraagstukken met zichmee.Als we niet precies weten welke factoren zijn meegenomen in de voorspellingen vanzo’n algoritme over sollicitanten, hoe kunnen we er dan van verzekerd zijn dat hetalgoritme op een eerlijke manier heeft besloten welke kandidaat het meest geschikt isvoor een baan? Hoe kunnen we waken voor de gevaren van het overmoedig inzettenvan deze systemen en zorgen voor verantwoord gebruik van deze technologieën?Algoritmische controles bij bedrijvenDe eerste stap hierbij is bewustwording. Het is belangrijk om kritisch te blijven tenopzichte van deze snel evoluerende digitale methodes. Op dit moment worden de eerstemethodes al ontwikkeld om algoritmische bias te detecteren en te voorkomen.Recent onderzoek kijkt naar de mogelijkheid om data voor de besluitvorming zo temodificeren dat een algoritme minder snel discriminerende voorspellingen maakt.Tevens pleiten sommige onderzoekers voor het houden van algoritmische controles bijbedrijven, waarbij er door behulp van speciale technieken vastgesteld kan worden of ersprake is van oneerlijkheid in softwaresystemen. Omdat dit onderzoeksgebied pasontstaan is, bestaat er nog geen duidelijke overeenstemming over de beste manier omhet functioneren van algoritmen te meten.Sociale- en computerwetenschappers moeten kennisbundelenDaarnaast hoeven klassieke en digitale manieren van assessment elkaar niet uitsluiten.Het is belangrijker om te verkennen op welke manier de sterke kanten vanpsychologische en technologische benaderingen kunnen worden gecombineerd, met alsdoel eerlijkere en verbeterde personeelsbeslissingen te nemen.Een essentiële factor om dit te kunnen verwezenlijken is wederzijds begrip tussensociale wetenschappers die geen IT-achtergrond hebben en computerwetenschappers.Het verantwoord gebruiken van big data en artificiële intelligentie vraagt omgecombineerde kennis en vaardigheden tussen de beoefenaars van deze tweewetenschappen.Om dit in de toekomst te bereiken, zijn enkele universiteiten en organisaties, waaronderde Erasmus Universiteit Rotterdam en de Technische Universiteit Delft, een StrategischPartnerschap aangegaan, genaamd Big Data in Psychological Assessment (BDPA). Dezesamenwerking dient om beter in te spelen op deze technologische ontwikkelingen en ditte integreren in nieuw en verbeterd onderwijsaanbod voor aankomendorganisatiepsychologen en computerwetenschappers.Dit soort interdisciplinaire samenwerkingen tussen computerwetenschappers en sociaalwetenschappers is ook de eerste stap in het bereiken van een consensus over debetrokken procedures bij het eerlijk inzetten van algoritmische technieken binnen dewerving- en selectie.Annemarie Hiemstra is universitair docent organisatiepsychologie aan de ErasmusUniversiteit Rotterdam en verbonden aan BDPA. Isabelle Nevels is Master studentArbeids- en Organisatiepsychologie en Business Information Management aan deErasmus Universiteit Rotterdam.12/5/2018 Algoritmes leiden niet automatisch tot eerlijkere selectie – Sociale Vraagstukkenhttps://www.socialevraagstukken.nl/algoritmes-leiden-niet-automatisch-tot-eerlijkere-selectie/ 4/4Foto: Leigh Anthony DEHANEY (Flickr Creative Commons)

Algoritmes leiden niet automatisch tot eerlijkere selectie

https://pure.eur.nl/files/48034335/Repub_112624.pdf

Algoritmes leiden niet automatisch tot eerlijkere selectie

Abstract

Similar works

Full text

Available Versions

EUR Research Repository