Consultatie betekenisvolle menselijke tussenkomst bij algoritmische besluitvorming

Organisaties zetten algoritmes en artificiële intelligentie (AI) steeds vaker in voor algoritmische besluitvorming. Denk aan de beoordeling van een kredietaanvraag of het beoordelen van online sollicitaties. Als organisaties algoritmische besluitvorming willen gebruiken, moeten zij aan regels voldoen. Mensen hebben het recht op menselijke tussenkomst bij algoritmische besluiten die over hen gaan en die gevolgen voor hen hebben. De AVG bevat daarover regels.

Betekenisvolle tussenkomst

Menselijke tussenkomst is er om te zorgen dat een besluit zorgvuldig wordt genomen en om te voorkomen dat mensen bijvoorbeeld (onbedoeld) uitgesloten of gediscrimineerd worden door de uitkomst van een algoritme. Deze menselijke tussenkomst mag niet alleen een symbolische functie hebben; het moet betekenisvol bijdragen aan de besluitvorming.

Inrichting is essentieel

De manier waarop betekenisvolle menselijke tussenkomst is ingericht, is essentieel. Als een medewerker door bijvoorbeeld tijdsdruk of door een onduidelijk systeem gehinderd wordt, kan dit impact hebben op de uitkomst van het besluit.

Organisaties hebben vaak vragen over de inrichting hiervan. Daarom ontwikkelt de Autoriteit Persoonsgegevens (AP) handvatten voor betekenisvolle menselijke tussenkomst bij algoritmische besluitvorming. Om deze handvatten goed aan te laten sluiten bij de praktijk, vraagt de AP bedrijven en organisaties om input via een consultatie.

De AP biedt voorbeelden en een overzicht van vragen die organisaties kunnen helpen bij de inrichting van betekenisvolle menselijke tussenkomst. Deze vragen en voorbeelden gaan over de relevante factoren mens, technologie, ontwerp en proces.

Uw input is welkom

De AP nodigt organisaties, experts en belanghebbenden uit om te reageren op de consultatie. We zijn benieuwd naar inzichten uit de praktijk. Heeft u bijvoorbeeld ervaring met een aanpak die werkt, of loopt u juist tegen knelpunten aan?

De input gebruiken we om de handvatten aan te scherpen. Een samenvatting van de ontvangen reacties wordt gepubliceerd. Namen, organisaties en contactgegevens worden niet gepubliceerd.

Wilt u reageren? Stuur dan een e-mail naar ppa@autoriteitpersoonsgegevens.nl. Hier kunt u ook terecht met vragen over het document of het consultatieproces. We ontvangen uw input graag uiterlijk 6 april 2025.