Risicovol algoritmegebruik door reclassering

Zo zijn in één van de algoritmes formules verwisseld. Daardoor heeft dit algoritme nooit goed voorspeld hoe groot het risico is dat een verdachte of veroordeelde opnieuw een delict pleegt. Uit berekeningen van de inspectie blijkt dat daardoor bij circa een kwart van de adviezen het risico op recidive verkeerd is ingeschat. Ook bevat dit algoritme variabelen die kunnen leiden tot discriminatie. De reclassering moet de tekortkomingen snel wegwerken of dat algoritme tijdelijk stilleggen, aldus de Inspectie JenV.

De reclassering geeft adviezen over verdachten en veroordeelden aan het Openbaar Ministerie en rechters. Hierbij gebruikt de reclassering algoritmes om het risico te voorspellen dat iemand opnieuw de fout ingaat. Met name het algoritme OXREC is risicovol. Deze wordt altijd bij de advisering gebruikt en ongeveer 44.000 keer per jaar toegepast.

In de software van de OXREC heeft de Inspectie JenV fouten aangetroffen. Zo worden sinds de ingebruikname in 2018 formules voor gevangenen en verdachten verwisseld en worden verkeerde getallen gebruikt. Hierdoor wordt in de meeste gevallen het risico op recidive te laag ingeschat, met name voor drugsgebruikers en mensen met een ernstige psychische aandoening zoals een psychose. In welke mate reclasseringsmedewerkers en rechters verkeerde adviezen ook hebben overgenomen met mogelijke risico’s voor de maatschappij, verdachten en veroordeelden zelf heeft de Inspectie JenV niet onderzocht.

De data van de OXREC is sterk verouderd en is ontwikkeld voor een andere doelgroep dan waar de reclassering ze op toepast. Ook voldoet de OXREC niet aan de privacywetgeving. De inspectie ziet ook risico’s dat medewerkers de uitkomsten ervan te makkelijk overnemen en niet meer vertrouwen op hun eigen oordeel. Hen wordt verteld dat hun eigen oordeel net zo betrouwbaar is als ‘het opgooien van een muntje’. Daarmee wordt de betrouwbaarheid van dit algoritme te groot gemaakt.

De OXREC gebruikt variabelen die kunnen leiden tot discriminatie; namelijk ‘buurtscore’ en ‘hoogte van het inkomen’. Het College van de Rechten van de Mens heeft enkele jaren geleden gesteld dat het gebruik van deze variabelen in algoritmes in principe verboden is, tenzij onderbouwd kan worden waarom gebruik noodzakelijk is en er aanvullende maatregelen worden getroffen. De reclassering heeft dit echter niet gedaan.

Volgens de Inspectie JenV stuurt de reclassering niet voldoende op het gebruik en onderhoud van de algoritmes. De aangetroffen tekortkomingen zijn daardoor jarenlang niet opgemerkt.

Aanbevelingen

De Inspectie JenV beveelt aan dat de tekortkomingen zo snel als mogelijk worden weggewerkt of dat de OXREC wordt stilgelegd. Daarnaast beveelt de inspectie de reclassering aan een structuur op te zetten voor de ontwikkeling, het gebruik en het onderhoud van algoritmes en die uit te voeren. De reclassering moet de algoritmes trainen met nieuwe gegevens en moet nagaan of het gebruik ervan correct is. Ook moet ze voldoen aan de wettelijke normen en richtlijnen hiervoor zoals het toetsen van de privacy. De Inspectie JenV wil elke zes maanden van de reclassering weten hoe ver zij is met deze verbeteringen. De reclassering heeft aangekondigd dat zij tijdelijk zal stoppen met het gebruik van de OXREC.