De ontwikkelingen in de informatiesamenleving gaan snel. De VNG brengt daarom regelmatig trends onder de aandacht. In deze Trendupdate: de inzet van data en algoritmen. De samenleving dataficeert en de overheid zet steeds vaker algoritmen in. De Nationale Ombudsman, de Algemene Rekenkamer en de Raad voor het Openbaar Bestuur verdiepten zich in dit onderwerp. Zij onderstrepen het belang van transparantie, verantwoording en het perspectief van de inwoner.
In toenemende mate maken overheden, ook gemeenten, gebruik van data en algoritmen. De daarop gebaseerde technologie biedt namelijk kansen bij het oplossen van een breed spectrum aan maatschappelijke vraagstukken. Tegelijkertijd liggen er ook risico’s op de loer. Zo stopte de gemeente Nissewaard in juli 2021 met het gebruik van een algoritme voor het controleren van de rechtmatigheid van bijstandsuitkeringen. De eerdere casus omtrent het fraude-algoritme Systeem Risico Indicatie (SyRI) en uiteraard de Toeslagenaffaire zijn bekende voorbeelden van wat er mis kan gaan.
In hun rapporten constateren de Nationale Ombudsman, de Algemene Rekenkamer en de Raad voor het Openbaar Bestuur (ROB) dan ook dat data en algoritmen een krachtig instrument vormen voor overheden, dat in goede banen geleid moet worden. Daarvoor is het nodig dat overheden checks and balances versterken, transparant zijn en verantwoording afleggen over de inzet van data en algoritmen. Verder moet er sprake zijn van goed contact met inwoners en moeten overheden goed naar hen luisteren.
De ROB analyseert in het in mei 2021 verschenen advies 'Sturen of gestuurd worden? Over de legitimiteit van sturen met data' de fundamentele impact van sturen met data op onze samenleving. De auteurs constateren dat digitalisering de legitimiteit van sturen met data onder druk kan zetten, waarbij zij zowel de activiteiten van publieke als private organisaties in scope brengen. De raad geeft het openbaar bestuur drie strategieën mee voor een betere publieke verantwoording. Ten eerste is het belangrijk om te investeren in de kennispositie van bestuurders, volksvertegenwoordigers, ambtenaren en inwoners. Ten tweede noemt de raad de noodzaak van grotere transparantie in het proces van sturen met data en het creëren van een open cultuur van verantwoording. Ten derde adviseert de raad om huidige verantwoordingsstructuren beter te benutten, zo nodig aan te passen of nieuwe structuren te creëren. Om het openbaar bestuur in deze strategieën te ondersteunen, heeft de raad ook het Data Debat Denkkader ontwikkeld, dat vragen formuleert in de verschillende fasen van datagebruik. (1)
In het rapport 'Een burger is geen dataset: Ombudsvisie op behoorlijk gebruik van data en algoritmen door de overheid' stelt de Nationale Ombudsman dat het gebruik van data en algoritmen door de overheid niet altijd zichtbaar en herkenbaar is voor de burger, maar wel invloed heeft op het vertrouwen dat burgers in de overheid hebben. In de gehele cyclus van ontwikkeling van data en algoritmen spelen de ervaringen van burgers, wat zij nodig hebben en wat voor hen belangrijk is, een belangrijke rol. De ombudsman stelt dan ook dat de overheid het burgerperspectief in deze cyclus centraal moet stellen. Daartoe geeft hij de overheid drie adviezen:
Wees duidelijk
Door het gebruik van data en algoritmen en het doel daarvan in kaart te brengen;
Door vooraf te bepalen wie wanneer en hoe wordt betrokken;
Door actief, begrijpelijk en toegankelijk te informeren over het gebruik van data en algoritmen;
Door juridische en ethische kaders te hanteren en de verantwoordelijkheden vast te leggen.
Wees toegankelijk
Door te weten welke burger zich achter de data bevindt en voor hem/haar/hen bereikbaar te zijn;
Door de burger zoveel mogelijk te betrekken;
Door open te staan voor vragen en klachten over data en algoritmen;
Door als één overheid op te treden.
Wees oplossingsgericht
Door vooraf te bepalen waar data en algoritmen wel en niet voor worden ingezet;
Door een ‘stopknop’ in te bouwen;
Door altijd de mogelijkheid voor maatwerk en persoonlijk contact te bieden;
Door continu in gesprek te blijven en te leren van fouten.
De Algemene Rekenkamer erkent in haar rapport 'Aandacht voor algoritmes' de noodzaak om vanuit ethisch perspectief te kijken naar algoritmen. Wetgeving zit namelijk niet altijd op één lijn met de publieke waarden. Dit zorgt voor een bepaalde spanning in de uitvoering van de wetten, want welke van de twee is het belangrijkst? De Rekenkamer is van mening dat juist die spanning verder verkend moet worden om algoritmen te laten voldoen aan zowel de behoeften van de overheid als haar burgers. Om daarbij te ondersteunen heeft de Algemene Rekenkamer een toetsingskader ontwikkeld, dat kan bijdragen aan het verbeteren van de algoritmen en de daaraan verbonden organisatieaspecten en randvoorwaarden. (2)
Hoewel het rapport zich concentreert op het gebruik van algoritmen binnen het rijk, biedt het toetsingskader ook waardevolle inzichten voor gemeenten. In het rapport wordt dit toetsingskader door middel van drie casussen verkend. Het startperspectief van dit toetsingskader is ethiek, waaruit de overige vier perspectieven komen:
Sturing en verantwoording: eenduidigheid doel;
Model en data: in lijn met doelstellingen;
Privacy: onder meer wettelijke verplichting verwerkingsregister;
IT General Controls: toegankelijke loginformatie.
Door het toetsingskader te gebruiken worden eventuele risico’s in beeld gebracht, om daarna te worden gereduceerd waar mogelijk.
De Rekenkamer onderzocht ook welke algoritmen de rijksoverheid gebruikt en hoe transparant deze zijn. Het blijkt dat er nog geen gebruik wordt gemaakt van zelflerende algoritmen, alleen lerende algoritmen. Er is dus momenteel nog altijd een mens betrokken bij het leren van het algoritme. Uit het onderzoek komen zes aanbevelingen om de transparantie en verantwoording van deze verschillende soorten algoritmes te zorgen:
Zorg voor uniformiteit en eenduidigheid van begrippen en kwaliteitseisen;
Geef de burgers inzicht in de toepassing van het algoritme en geef aan waar zij terechtkunnen met vragen;
Leg afspraken over de inzet van algoritmen vast en richt de continue monitoring goed in;
Draag zorg voor een vertaling van het toetsingskader naar hanteerbare kwaliteitseisen voor algoritmen;
Betrek meerdere disciplines al bij ontwikkeling van algoritmen;
Draag zorg voor het inzicht hebben en houden in het functioneren van de IT General Controls. IT General Controls (ITGC) zijn de beheersmaatregelen die een organisatie heeft getroffen om ervoor te zorgen dat de IT-systemen betrouwbaar en integer zijn. Het zijn traditionele ICT-maatregelen, zoals het beheer van toegangsrechten, continuïteit en change management.
Voetnoten
(1) https://vng.nl/artikelen/reactie-op-rob-advies-sturen-of-gestuurd-worden-over-de-legitimiteit-van-sturen-met-data
(2) https://www.rekenkamer.nl/onderwerpen/algoritmes/algoritmes-toetsingskader
