De Staatscommissie tegen Discriminatie en Racisme roept de overheid op om te stoppen met datagedreven profilering voor fraude- en criminaliteitsopsporing. In haar nieuwe rapport Principes voor profilering, een kritisch perspectief op de toepassing van datagedreven profilering door de overheid concludeert de commissie dat deze werkwijze fundamenteel botst met de principes van goed openbaar bestuur. Profileringsystemen leiden tot discriminatie of onaanvaardbare risico’s op discriminatie en ze veroorzaken veel maatschappelijke schade zoals gebeurde in de toeslagenaffaire. Eerder hebben de Autoriteit Persoonsgegevens en het College voor de Rechten van de Mens zich kritisch uitgelaten over het gebruik van profilering door overheidsorganisaties.
Datagedreven profilering – het selecteren en categoriseren van burgers op basis van gegevens – wordt steeds vaker ingezet door overheidsorganisaties, bijvoorbeeld bij controles of toezicht. De inzet van deze profileringsmethoden leidt in de praktijk echter vaak tot discriminatie, met ingrijpende gevolgen voor zowel individuen als de samenleving.
De commissie stelt vast dat datagedreven profilering op meerdere punten strijdig is met kernprincipes van goed bestuur: rechtsstatelijkheid, democratische legitimiteit en bestuurlijk vermogen. Zo ontbreekt het vaak aan duidelijke wettelijke grenzen en effectieve rechtsbescherming voor burgers. Daarnaast kunnen profileringssystemen bestaande ongelijkheden versterken, omdat zij zijn gebaseerd op historische data waarin eerdere vormen van discriminatie al besloten liggen. Ook ontbreekt het volgens de commissie regelmatig aan expliciete politieke en maatschappelijke afwegingen. Voorzitter van de Staatscommissie tegen Discriminatie en Racisme Joyce Sylvester: “Profilering wordt vaak gezien als een technische keuze, terwijl het in werkelijkheid gaat om een fundamentele normatieve beslissing over hoe de overheid haar burgers benadert.”
Hoewel profilering vaak wordt gerechtvaardigd als efficiënter en effectiever dan andere selectiemethoden, stelt de commissie vast dat overtuigend empirisch bewijs hiervoor veelal ontbreekt. Tegelijkertijd groeit het gebruik van profilering snel en komt het steeds vaker voor op verschillende beleidsterreinen, zoals rechtshandhaving en sociale zekerheid, en binnen de publieke organisaties die daarin actief zijn. Een bijkomend belangrijk knelpunt is het gebrek aan transparantie. Burgers weten vaak niet dat zij worden geprofileerd, welke criteria worden gebruikt en hoe beslissingen tot stand komen. Het Algoritmeregister, dat inzicht geeft in de manier waarop de overheid algoritmes gebruikt, is volgens de commissie bovendien onvolledig.
De staatscommissie pleit voor het stopzetten van lopende toepassingen van profilering zolang er geen maatregelen en waarborgen zijn om discriminatie te voorkomen, waaronder het aantonen van de effectiviteit ervan. Tegelijkertijd wijst de commissie op alternatieve methoden, zoals aselecte controles. “Omdat profilering raakt aan kernprincipes van de rechtsstaat, democratie en goed bestuur moet de overheid transparant zijn over haar keuzes en aantonen dat de inzet van profilering effectief is en geen schade veroorzaakt. Dit vraagt om extra waakzaamheid en terughoudendheid,” stelt Sylvester. Hoewel de staatscommissie zeer kritisch is op het gebruik van datagedreven profilering voor fraude- en criminaliteitsopsporing, betekent dit niet dat de commissie tegen het verzamelen van data is. Dataverzameling kan namelijk helpen om gelijkheid in kaart te brengen en tegen te gaan. Hierbij is het belangrijk dat mensen toestemming geven voor gebruik van hun gegevens en vervolgens volwaardig worden betrokken bij beleid.
