Betere besluitvorming met AI: AP publiceert praktische handvatten voor menselijke tussenkomst

Organisaties zetten algoritmes en artificiële intelligentie (AI) steeds vaker in voor algoritmische besluitvorming. Denk aan de beoordeling van een kredietaanvraag of het beoordelen van online sollicitaties. Als organisaties algoritmische besluitvorming willen gebruiken, moeten zij aan regels voldoen. Mensen hebben het recht op menselijke tussenkomst bij algoritmische besluiten die over hen gaan en die gevolgen voor hen hebben. De AVG bevat daarover regels.

Betekenisvolle tussenkomst

Menselijke tussenkomst is er om te zorgen dat een besluit zorgvuldig wordt genomen en om te voorkomen dat mensen bijvoorbeeld (onbedoeld) uitgesloten of gediscrimineerd worden door de uitkomst van een algoritme. Deze menselijke tussenkomst mag niet alleen een symbolische functie hebben; het moet betekenisvol bijdragen aan de besluitvorming.

Inrichting is essentieel

De manier waarop betekenisvolle menselijke tussenkomst is ingericht, is essentieel. Als een medewerker bijvoorbeeld door tijdsdruk of door een onduidelijk systeem gehinderd wordt, kan dit impact hebben op de uitkomst van het besluit.

Organisaties hebben vaak vragen over de inrichting hiervan. Daarom heeft de AP handvatten voor betekenisvolle menselijke tussenkomst bij algoritmische besluitvorming ontwikkeld. Deze handvatten kunnen organisaties en bedrijven die gebruik willen maken van algoritmische besluitvorming helpen bij het inrichten van de menselijke tussenkomst. Het document is hierom zo praktisch mogelijk geschreven, om het zo goed mogelijk aan te laten sluiten bij vragen die organisaties hebben.

De AP biedt voorbeelden en een overzicht van vragen die organisaties kunnen helpen bij de inrichting van betekenisvolle menselijke tussenkomst. Deze vragen en voorbeelden gaan over de relevante factoren mens, technologie en ontwerp, proces, en governance.

Resultaat consultatie

De reacties op de consultatie zijn gebundeld en zonder verwijzing naar de organisatie of persoon opgenomen. Overheidsinstanties, onafhankelijke stichtingen, bedrijven, brancheorganisaties en wetenschappers hebben input geleverd. Onder de reacties op de consultatie waren ook suggesties voor bepaalde vragen. Bekijk een samenvatting van reacties op de consultatie.

Praktische hulp

Met de handvatten wil de AP organisaties op een zo praktisch mogelijke manier helpen met het inrichten van betekenisvolle menselijke tussenkomst. Het document biedt praktische handvatten en is bedoeld als voorlichting om organisaties te helpen bij het inrichten van betekenisvolle menselijke tussenkomst bij algoritmische besluitvorming.

Scope

Dit document gaat over betekenisvolle menselijke tussenkomst waardoor geen sprake is van uitsluitend geautomatiseerde besluitvorming, zoals bedoeld in artikel 22 lid 1 AVG en artikel 11 lid 1 RGR. Deze artikelen hebben betrekking “uitsluitend op een geautomatiseerde verwerking gebaseerd besluit”. Daaronder verstaan we een besluit dat volledig op een geautomatiseerde verwerking is gebaseerd en rechtsgevolgen heeft voor betrokkenen of hen op een andere manier in aanmerkelijke mate treft. Als daarbij betekenisvolle menselijke tussenkomst plaatsvindt, betekent dit dat er geen sprake is van een uitsluitend op een geautomatiseerde verwerking gebaseerd besluit. Het besluit valt dan niet onder artikel 22 AVG.

Naast de inrichting menselijke tussenkomst zijn er andere kernbegrippen uit het artikel die vragen kunnen oproepen. Zoals: wanneer is de uitkomst van het proces een ‘besluit’? Wanneer treft een besluit iemand ‘in aanmerkelijke mate’? Deze vragen worden niet beantwoord in het document.

Vervolg

Om organisaties verder op weg te helpen gaat de AP gaat dit jaar aan de slag met het praktisch invullen van andere kernbegrippen over geautomatiseerde besluitvorming in de AVG, zoals wat het betekent om ‘in aanmerkelijke mate’ getroffen te worden, en welke informatie een betrokkene over het geautomatiseerde besluit moet krijgen.