AI in werving en selectie: juridische randvoorwaarden en aandachtspunten

Eind februari publiceerde de Autoriteit Persoonsgegevens (“AP”) de zesde editie van de Rapportage AI & Algoritmes Nederland. Deze halfjaarlijkse rapportage biedt inzicht in de effecten en risico’s van de ontwikkeling en inzet van AI en algoritmes in Nederland. De AP, coördinerend toezichthouder op dit gebied, signaleert dat de risico’s van AI en algoritmes in het afgelopen half jaar exponentieel zijn gestegen. Onder die risico’s valt ook het toenemende gebruik van AI in werving en selectie, zowel door werkgevers als sollicitanten. Hoewel AI en algoritmes kunnen bijdragen aan een doelmatiger sollicitatieproces, roept het gebruik daarvan ook vragen op over eerlijkheid, transparantie en gelijke kansen.

Risico’s bij het gebruik van AI voor werving en selectie

Een recruitmentproces bestaat doorgaans uit verschillende fases waarin voortdurend selecties worden gemaakt, die steeds vaker geautomatiseerd zijn. Door de inzet van AI en algoritmes in dit proces kan het risico op bias hierin verweven raken en zelfs worden versterkt. Dit begint al bij het opstellen of verbeteren van een vacaturetekst waarbij organisaties gebruikmaken van generatieve AI. Door AI gegenereerde teksten kunnen immers vooringenomenheid bevatten, bijvoorbeeld omdat in de trainingsdata systematische historische bias is ingebed. Hoewel er op dit punt nog geen selectie plaatsvindt, kan toch al een vorm van (zelf)selectie ontstaan: niet alle potentiële kandidaten voelen zich mogelijk aangesproken door de vacaturetekst en reageren daarom niet.

Ook bij de verspreiding van vacatures worden AI en algoritmes ingezet. LinkedIn en Facebook gebruiken daarvoor gepersonaliseerde aanbevelingssystemen die de vacatures met werkzoekenden koppelen op basis van online profielen. Omdat deze systemen leren van data die maatschappelijke vooroordelen kan bevatten, bestaat het risico dat vacatures met een hogere status of technische functies bijvoorbeeld eerder aan mannen worden getoond dan aan vrouwen met vergelijkbare profielen. Het aanbevelingssysteem bepaalt daarmee welke vacatures iemand wel of mogelijk niet te zien krijgt, waardoor ook hier al een vorm van selectie plaatsvindt.

Bij de selectie en beoordeling van kandidaten wordt vervolgens steeds vaker AI ingezet. Zo wordt bijvoorbeeld gebruikgemaakt van AI-tools die een cv analyseren op geschiktheid voor een vacature en vervolgens een advies of beoordeling geven over het al dan niet voortzetten van de sollicitatieprocedure. Het risico hiervan is dat bestaande vormen van bias versterkt kunnen worden. Bovendien is vaak onduidelijk hoe een selectie van kandidaten tot stand komt en ontstaat een zogeheten ‘black box’. Het blijft dan onduidelijk welke factoren doorslaggevend zijn geweest en dus waarom bepaalde kandidaten wel of niet door het AI-systeem zijn geselecteerd. Dit kan nadelig zijn voor sollicitanten, maar ook voor werkgevers.

Kortom, in alle stappen van het wervings- en selectieproces brengt de inzet van AI en algoritmes risico’s met zich mee, zoals bias, discriminatie, uitsluiting en gebrek aan transparantie.

Randvoorwaarden voor de inzet van AI tijdens werving en selectie

Om AI verantwoord in te zetten en risico’s zoals bias en discriminatie zoveel mogelijk te beperken, moeten organisaties aan verschillende randvoorwaarden voldoen. Deze voorwaarden volgen zowel uit de Algemene verordening gegevensbescherming (“AVG”) als uit de AI-verordening, die elkaar aanvullen.

Randvoorwaarden op grond van de AVG

Bij de inzet van AI en algoritmes in werving en selectie worden vrijwel altijd persoonsgegevens verwerkt. Daarmee is de AVG van toepassing, die vereist dat deze verwerking zorgvuldig, behoorlijk en transparant plaatsvindt. Organisaties doen er daarom goed aan om kritisch te kijken naar het gebruik van complexe en moeilijk uitlegbare AI-systemen. Wanneer dergelijke systemen het risico vergroten op discriminatie, onnavolgbare beslissingen of een wervingsproces dat afwijkt van wat sollicitanten redelijkerwijs mogen verwachten, kan dat op gespannen voet staan met de vereisten van de AVG. Bovendien moeten organisaties zorgvuldig beoordelen of het gebruik van AI daadwerkelijk passend en noodzakelijk is binnen het selectieproces. De AP signaleert namelijk dat AI-tools niet altijd duidelijk aansluiten bij functievereisten, bijvoorbeeld wanneer onvoldoende inzichtelijk is waarom een bepaald assessment relevant is voor een functie.

De AVG stelt bovendien grenzen aan geautomatiseerde besluitvorming. Besluiten die uitsluitend op basis van algoritmes worden genomen en die aanzienlijke gevolgen hebben voor sollicitanten, zijn in beginsel niet toegestaan, tenzij aan strikte voorwaarden is voldaan. Aan die voorwaarden zal in dit kader waarschijnlijk niet zomaar worden voldaan, omdat geautomatiseerde besluitvorming niet noodzakelijk lijkt voor de totstandkoming van een overeenkomst tussen een sollicitant en werkgever. Daarnaast zal toestemming van een sollicitant doorgaans geen geldige uitzonderingsmogelijkheid bieden. Door het machtsverschil met de werkgever zal een kandidaat zich immers niet altijd vrij voelen om toestemming te weigeren. Toestemming die niet vrijelijk is gegeven voldoet niet aan de strikte eisen die de AVG stelt.

Sollicitanten hebben in ieder geval het recht om te weten of sprake is van geautomatiseerde besluitvorming en om uitleg te krijgen over de totstandkoming van een besluit dat hen raakt. Die uitleg moet begrijpelijk en herleidbaar zijn, wat in de praktijk lastig kan zijn bij complexe of moeilijk uitlegbare AI-systemen. Organisaties moeten daarom kunnen toelichten hoe een beoordeling of uitkomst tot stand is gekomen. Daarnaast hebben sollicitanten op grond van de AVG recht op betekenisvolle menselijke tussenkomst bij algoritmische besluiten die hen raken en gevolgen voor hen hebben.

Randvoorwaarden op grond van de AI-verordening

Naast de AVG gelden aanvullende eisen op grond van de AI-verordening die momenteel gefaseerd in werking treedt. Deze verordening stelt regels aan zowel aanbieders als gebruikers van AI-systemen. De AI-verordening deelt AI-systemen in aan de hand van risicogroepen. Hoe hoger het risico voor burgers en de samenleving als geheel, hoe strenger de regels. AI-systemen die worden ingezet voor werving en selectie worden aangemerkt als hoog-risicosystemen. Dat betreft onder meer AI-systemen die worden gebruikt voor het gericht verspreiden van vacatures, het analyseren en filteren van sollicitaties en het beoordelen van kandidaten. Aanbieders en gebruikers van deze systemen moeten daarom voldoen aan aanvullende waarborgen, waaronder voorschriften op het gebied van menselijk toezicht, transparantie en datakwaliteit. Deze regels gaan in beginsel vanaf augustus 2026 gelden, tenzij de digitale Omnibus definitief wordt goedgekeurd en daarmee nog een uitstel voor verplichtingen bij hoog-risicosystemen wordt doorgevoerd.

Aanbieders van AI-systemen moeten zich tijdig voorbereiden op certificeringseisen en mogen hun systemen pas aanbieden of gebruiken wanneer zij voldoen aan eisen rondom nauwkeurigheid en het voorkomen en beperken van discriminatierisico’s. Voor organisaties die deze systemen inzetten, geldt onder meer een transparantieverplichting richting sollicitanten. Kandidaten moeten vooraf weten of en hoe AI en algoritmes worden gebruikt, hoe de procedure verloopt en op basis van welke criteria zij worden beoordeeld. Wanneer sollicitanten direct met AI interacteren, bijvoorbeeld via een chatbot, moet dit vanaf 2 augustus 2026 expliciet kenbaar worden gemaakt.

Daarnaast introduceert de AI-verordening de verplichting tot AI-geletterdheid. Voor mensen die binnen werving en selectie met AI werken, is AI-geletterdheid een belangrijke voorwaarde om geïnformeerde keuzes te maken, bijvoorbeeld wanneer een systeem kandidaten aanbeveelt. Daarom moeten organisaties sinds februari 2025 zorgen dat deze medewerkers beschikken over voldoende kennis en begrip van zowel de technische werking als de sociale en ethische risico’s. Dit is essentieel om de uitkomsten van AI-systemen in werving- en selectieprocedures kritisch te kunnen beoordelen en om effectief menselijk toezicht te waarborgen.

Bovendien zijn sinds februari 2025 onder de AI-verordening een aantal AI-systemen verboden. In het kader van werving en selectie gaat het dan bijvoorbeeld om systemen voor emotieherkenning op de werkplek. Denk aan een tool die claimt te kunnen zien of een kandidaat liegt door gezichtsuitdrukkingen te analyseren tijdens een sollicitatiegesprek. Dergelijke systemen mogen sindsdien niet meer worden aangeboden en gebruikt.

Tot slot

De inzet van AI en algoritmes kan het wervings- en selectieproces efficiënter maken, maar vergroot ook het risico op bias, gebrek aan transparantie en moeilijk uitlegbare beslissingen. Omdat AI in verschillende fases van het recruitmentproces wordt ingezet – van het opstellen van vacatureteksten tot cv-screening en selectie – kunnen deze risico’s zich opstapelen. Tegelijkertijd stellen de AI-verordening en AVG duidelijke randvoorwaarden aan het gebruik van AI (binnen recruitment). Organisaties moeten transparant zijn over het gebruik van AI, zorgen voor menselijk toezicht en voorkomen dat belangrijke beslissingen volledig geautomatiseerd plaatsvinden.

Voor organisaties die AI willen inzetten in werving en selectie is het daarom essentieel om niet alleen naar de technische mogelijkheden te kijken, maar ook naar de juridische en ethische kaders en de impact op kandidaten. Daarbij zijn de volgende aandachtspunten essentieel:

Gebruik AI alleen wanneer dit passend en noodzakelijk is voor het wervings- en selectieproces;

Wees transparant naar sollicitanten over wanneer en hoe AI in het proces wordt gebruikt;

Let op bias en datakwaliteit, zodat bestaande vooroordelen niet worden versterkt;

Zorg voor betekenisvolle menselijke tussenkomst, zeker bij beslissingen die grote impact (kunnen) hebben op kandidaten;

Investeer in AI-geletterdheid van medewerkers die met AI-systemen werken;

Houd rekening met de AI-verordening en de AVG die aanvullende verplichtingen stellen aan het gebruik van AI in wervings- en selectieprocedures.