De Autoriteit Persoonsgegevens houdt sinds maandag niet alleen toezicht op de naleving van de AVG, maar ook op het gebruik van algoritmes. De toezichthouder wil op deze manier de rechtsbescherming voor burgers versterken en het vertrouwen in algoritmes vergroten. Voor deze taak heeft het kabinet miljoenen euro’s gereserveerd.
De privacywaakhond kondigt de start van het algoritmetoezicht aan via een persbericht (1).
AP-bestuursvoorzitter Aleid Wolfsen gaf maandag, samen met minister voor Rechtsbescherming Franc Weerwind en staatssecretaris van Digitalisering Alexandra van Huffelen, het startsein voor het toezicht op algoritmes.
Het uitgangspunt is dat het huidige toezicht blijft voortbestaan. Dat wil niet zeggen dat alles bij hetzelfde blijft. De verantwoordelijk voor het toezicht op algoritmes is sinds jaar en dag verdeeld over verschillende toezichthouders en inspecties. De Autoriteit Persoonsgegevens vervult voortaan een coördinerende en sectoroverstijgende rol in het toezicht. Daarvoor is de directie Coördinatie Algoritmes in het leven geroepen.
Bij de aankondiging vertelde Wolfsen dat de Autoriteit Persoonsgegevens het afgelopen jaar samen met andere stakeholders en experts heeft nagedacht over de inrichting van het algoritmetoezicht. “Ook andere instanties hebben veel ervaring met het toezicht op algoritmes, net als de AP. Met elkaar kunnen we veel kennis en inzicht bundelen. Mede dankzij ieders input, meedenken en tegendenken is nu de basis gelegd voor dit brede, domeinoverstijgende algoritmetoezicht.”
De bestuursvoorzitter benadrukt dat algoritmes en kunstmatige intelligentie een steeds grotere rol spelen in ons dagelijks leven. “Dit biedt vele kansen en maakt belangrijke innovaties mogelijk. Maar de dreiging om de mens en de menselijke maat daarbij uit het oog te verliezen, ligt op de loer.”
Dat algoritmes een grote impact kunnen hebben op ons leven, blijkt wel uit het verloop van de Toeslagenaffaire. De Belastingdienst kreeg er toen flink van langs. “Het hele systeem was op een discriminerende manier ingericht en werd ook als zodanig gebruikt”, concludeerde de toezichthouder in juli 2020 over de Toeslagenaffaire. Ongeveer een kwart miljoen Nederlanders waren hiervan de dupe en moesten in sommige gevallen tienduizenden euro’s terugbetalen aan de fiscus. Dat leidde tot veel schrijnende situaties.
Daarom is het belangrijk dat algoritmes goed gecontroleerd worden. “Transparantie over het gebruik van algoritmes is daarom cruciaal om discriminatie en willekeur te voorkomen. Daarom is het van groot belang dat de Tweede Kamer en het kabinet juist op deze punten stevige ambities hebben en het toezicht op algoritmes goed willen regelen. Dat versterkt de rechtsbescherming en geeft mensen het vertrouwen dat algoritmes en systemen met artificiële intelligentie aan publieke waarden voldoen”, aldus Wolfsen.
Het kabinet trekt de portemonnee om de coördinerende rol van de Autoriteit Persoonsgegevens in het algoritmetoezicht te financieren. Dit jaar ontvangt de toezichthouder hiervoor één miljoen euro. Het budget loopt structureel op tot 3,6 miljoen euro per jaar in 2026. Voor het versterken van het bestaande toezicht heeft het kabinet structureel 2,61 miljoen euro gereserveerd.
De verantwoordelijkheid voor de beleidsmatige inrichting van de algoritmetoezichthouder, ligt bij het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. De minister voor Rechtsbescherming ziet erop toe dat de financiële middelen goed worden besteed. De financiering van het algoritmetoezicht komt voor rekening van het ministerie van Justitie en Veiligheid.
Bits of Freedom is blij met de toekomst van een algoritmetoezichthouder. “Algoritmen worden al breed toegepast binnen onze samenleving en kunnen een behoorlijke impact hebben op mensenlevens. Het is dan ook belangrijk dat mensen ergens terecht kunnen als ze geen transparante en begrijpelijke uitleg krijgen, of wanneer ze het niet eens zijn met een (deels) geautomatiseerde beslissing die hun leven raakt”, zo schrijft de organisatie in een blog.
De burgerrechtenbeweging betreurt het dat het budget van de algoritmetoezichthouder aan de lage kant is. Klagen bij de toezichthouder over bijvoorbeeld etnisch profileren of discriminatie, is een gekoesterde wens van Bits of Freedom. Het nieuwe toezicht omschrijft ze als ‘een stapje in de goede richting’. “Maar hebben we nog een lange weg te gaan voordat burgers echt de bescherming krijgen waar ze recht op horen te hebben.”
https://autoriteitpersoonsgegevens.nl/nl/nieuws/algoritmetoezicht-ap-van-start
