Staatscommissie: stop datagedreven profilering door overheid vanwege discriminatie

Datagedreven profilering – het selecteren en categoriseren van burgers op basis van gegevens – wordt steeds vaker ingezet door overheidsorganisaties, bijvoorbeeld bij controles of toezicht. De inzet van deze profileringsmethoden leidt in de praktijk echter vaak tot discriminatie, met ingrijpende gevolgen voor zowel individuen als de samenleving.

Meer dan een technische keuze

De commissie stelt vast dat datagedreven profilering op meerdere punten strijdig is met kernprincipes van goed bestuur: rechtsstatelijkheid, democratische legitimiteit en bestuurlijk vermogen. Zo ontbreekt het vaak aan duidelijke wettelijke grenzen en effectieve rechtsbescherming voor burgers. Daarnaast kunnen profileringssystemen bestaande ongelijkheden versterken, omdat zij zijn gebaseerd op historische data waarin eerdere vormen van discriminatie al besloten liggen. Ook ontbreekt het volgens de commissie regelmatig aan expliciete politieke en maatschappelijke afwegingen. Voorzitter van de Staatscommissie tegen Discriminatie en Racisme Joyce Sylvester: “Profilering wordt vaak gezien als een technische keuze, terwijl het in werkelijkheid gaat om een fundamentele normatieve beslissing over hoe de overheid haar burgers benadert.”

Gebrek aan effectiviteit, transparantie en controle

Hoewel profilering vaak wordt gerechtvaardigd als efficiënter en effectiever dan andere selectiemethoden, stelt de commissie vast dat overtuigend empirisch bewijs hiervoor veelal ontbreekt. Tegelijkertijd groeit het gebruik van profilering snel en komt het steeds vaker voor op verschillende beleidsterreinen, zoals rechtshandhaving en sociale zekerheid, en binnen de publieke organisaties die daarin actief zijn. Een bijkomend belangrijk knelpunt is het gebrek aan transparantie. Burgers weten vaak niet dat zij worden geprofileerd, welke criteria worden gebruikt en hoe beslissingen tot stand komen. Het Algoritmeregister, dat inzicht geeft in de manier waarop de overheid algoritmes gebruikt, is volgens de commissie bovendien onvolledig.

Eerlijke alternatieven

De staatscommissie pleit voor het stopzetten van lopende toepassingen van profilering zolang er geen maatregelen en waarborgen zijn om discriminatie te voorkomen, waaronder het aantonen van de effectiviteit ervan. Tegelijkertijd wijst de commissie op alternatieve methoden, zoals aselecte controles. “Omdat profilering raakt aan kernprincipes van de rechtsstaat, democratie en goed bestuur moet de overheid transparant zijn over haar keuzes en aantonen dat de inzet van profilering effectief is en geen schade veroorzaakt. Dit vraagt om extra waakzaamheid en terughoudendheid,” stelt Sylvester. Hoewel de staatscommissie zeer kritisch is op het gebruik van datagedreven profilering voor fraude- en criminaliteitsopsporing, betekent dit niet dat de commissie tegen het verzamelen van data is. Dataverzameling kan namelijk helpen om gelijkheid in kaart te brengen en tegen te gaan. Hierbij is het belangrijk dat mensen toestemming geven voor gebruik van hun gegevens en vervolgens volwaardig worden betrokken bij beleid.