Uit onderzoek blijkt dat meerdere gemeenten leunen op algoritmes en risicoprofilering om bijvoorbeeld fraude op te sporen. Het gebruik van algoritmes kan leiden tot schending van de mensenrechten, maar biedt ook kansen voor het bevorderen van de mensenrechten. Het College voor de Rechten van de Mens voert op dit moment een onderzoek uit naar (semi-)geautomatiseerde besluitvorming bij gemeenten en formuleert aanbevelingen voor rechtsbescherming.
Uit onderzoek van NOS en regionale omroepen blijkt dat zeker 25 gemeenten gebruikmaken van voorspellende systemen. Gemeenten zetten deze bijvoorbeeld in om bijstandsfraude en andere vormen van criminaliteit op te sporen. De (lokale) overheid en uitvoeringsinstanties investeren in toenemende mate in digitalisering om problemen op te lossen, vragen te beantwoorden en voorspellingen te doen. Om snel, efficiënt en consistent besluiten te nemen wordt gebruik gemaakt van geautomatiseerde systemen. Deze (semi-)geautomatiseerde besluitvorming kan echter leiden tot schending van de mensenrechten, zeker wanneer besluiten direct burgers treffen.
Het verzamelen en delen van persoonsgegevens kan inbreuk maken op het recht op privacy en risicomodellen kunnen leiden tot discriminatie, zoals bij de Belastingdienst is gebeurd. Bovendien wordt het aanvechten van een besluit, zoals een afwijzing voor een uitkering, steeds moeilijker als overheden niet communiceren hoe deze beslissingen tot stand komen.
Het College voor de Rechten van de Mens voert op dit moment in samenwerking met Hooghiemstra & Partners een kwalitatief onderzoek uit naar (semi-)geautomatiseerde besluitvorming bij gemeenten. In dit onderzoek wordt bekeken of er aandacht is voor de mensenrechtelijke aspecten en of er bijzondere voorzieningen zijn getroffen voor rechtsbescherming. Het doel is om inzicht te bieden in het gebruik van algoritmes bij besluitvorming over burgers en aanbevelingen te formuleren voor rechtsbescherming. De resultaten worden in mei gepubliceerd.
Deze week publiceert het College allereerst een beknopte handreiking voor (semi-)geautomatiseerde besluitvorming, met onder andere drie uitgangspunten voor ambtenaren om de mensenrechten te waarborgen.
