De Autoriteit Persoonsgegevens (AP) heeft het jaarverslag 2023 uitgebracht. Tijdens de presentatie ervan liet voorzitter Aleid Wolfsen zich kritisch uit over het illegaal gebruik van algoritmes door de overheid, de onrechtmatige inzet van fraudescorekaarten en het gebruik van gezichtsherkenning door de politie.
Volgens de privacy-autoriteit kwam de toeslagenaffaire afgelopen jaar in een nieuwe fase met de verhoren van de parlementaire enquêtecommissie Fraudebeleid en Dienstverlening. “Tegelijk werd pijnlijk duidelijk dat er nog bitter weinig veranderd is. Terwijl de enquêtecommissie de Autoriteit Persoonsgegevens in 2023 meermaals uitnodigde om uit te leggen hoe het in het verleden zo vreselijk heeft kunnen misgaan, speelden in datzelfde jaar algoritmes en discriminatie nog altijd de hoofdrol in het werk van de AP”, zo is te lezen in het Jaarverslag.
De Dienst Uitvoering Onderwijs (DUO) bleek bijvoorbeeld bij de opsporing van fraude met studiebeurzen een algoritme in te zetten dat discriminerend uitpakte. Het UWV gebruikte illegaal een algoritme om fraude met WW-uitkeringen te ontdekken en enkele gemeenten maakten alsnog gebruik van de fraudescorekaart.
Wolfsen voegde eraan toe dat algoritmes en AI de samenleving veel goeds kunnen opleveren. Als voorbeelden noemt hij efficiëntere werkprocessen voor overheidsorganisaties. “Maar als samenleving moeten we steeds heel alert zijn op de risico’s van algoritmes, waaronder discriminatie. Zodat overheidsinstellingen niet opnieuw levens van mensen verwoesten en onze rechtsstaat en de bescherming van grondrechten overeind houden.”
