Algoritmen zijn regels die een computer volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. Amsterdam gebruikt veel algoritmen. Bijvoorbeeld om nummerborden te scannen voor parkeercontroles of om de WOZ-waarde van woningen te berekenen. De gemeente wil grip krijgen op algoritmen en algoritmen eerlijker en transparanter maken voor burgers. Om dit te realiseren zijn ambtenaren begin 2022 begonnen met het maken van een beheerskader – een soort handleiding – voor algoritmen. Wij hebben onderzocht of het beheerskader in orde is. En we zijn nagegaan welke lessen de gemeente kan leren uit de praktijk. We concluderen dat het beheerskader en de praktijk aandacht hebben voor veel risico’s die verantwoord toepassen van algoritmen in de weg kunnen zitten. We zien ook dat verbeteringen mogelijk en nodig zijn om meer grip te krijgen op algoritmen en om algoritmen eerlijker en transparanter te maken.
Het beheerskader en de praktijk hebben nog weinig aandacht voor: 1) de eerlijkheid van algoritmen; 2) de privacybescherming van burgers; en 3) de openheid over het ontwikkelen en toepassen van algoritmen. Ook concluderen wij dat de samenhang en de kwaliteit van de onderdelen van het beheerskader beter kan. Bijvoorbeeld door te kiezen voor één definitie van het woord ‘algoritme’, zodat alle ambtenaren weten wanneer ze de handleiding voor algoritmen moeten gebruiken en weten hoe ze met risico’s moeten omgaan. Verder kan de gemeente het beheerskader concreter maken voor ambtenaren. Er is bijvoorbeeld een hulpmiddel nodig waarmee ambtenaren kunnen nagaan of het ontwikkelen van een algoritme wel haalbaar is, voordat er veel tijd en geld in wordt gestopt.
De gemeente wil niet dat algoritmen zonder goede reden onderscheid maken tussen burgers. De gemeente wil dus bias voorkomen. Maar de maatregelen om bias tegen te gaan, zijn weinig gebruikt. Zo heeft de gemeente nog maar bij één algoritme goed onderzocht of het algoritme eerlijk is. Daarnaast worden moeilijke beslissingen over de eerlijkheid van algoritmen nog niet genomen door het bestuur van de gemeente, terwijl dit politieke keuzes zijn.
De gemeente wil de privacy van burgers goed beschermen als zij algoritmen gebruikt. Maar slaagt daar nog onvoldoende in. Verplichte wettelijke controles om de privacy te beschermen zijn onvoldoende uitgevoerd. Burgers zijn nog weinig persoonlijk geïnformeerd over wat de gemeente met hun gegevens doet. En de gemeente legt nog niet goed uit hoe algoritmen zijn gebruikt bij het nemen van besluiten over burgers.
De gemeente wil open en transparant zijn over het gebruik van algoritmen. Ze heeft daarom een website gemaakt waar alle gemeentelijke algoritmen in moeten staan: het algoritmeregister. Amsterdam was de eerste gemeente met zo’n register. Deze website is alleen nog niet volledig. Zo staan in september 2023 nog maar 29 algoritmen op de website, terwijl er mogelijk honderden algoritmen zijn. Dat komt doordat de gemeente zelf niet goed weet welke algoritmen ze allemaal gebruikt. Hierdoor krijgen raadsleden en burgers te weinig informatie.
De gemeente wil de grip op algoritmen vergroten. Daarom adviseren we om het beheerskader verder te ontwikkelen zodat de kwaliteit verbetert. Daarnaast geven we het advies om het beheerskader vaker in de praktijk te gebruiken en daarvan te leren. De gemeente wil algoritmen ook eerlijker maken. We geven daarom concrete adviezen om de omgang met bias en de privacybescherming van burgers te verbeteren. Ten slotte wil de gemeente transparant zijn over algoritmen. We adviseren daarom om de gemeenteraad op vaste momenten te informeren, het algoritmeregister aan te vullen en om burgers persoonlijker en ruimhartig te informeren over het gebruik van algoritmen bij besluiten die hen aangaan.
De gemeente onderschrijft onze conclusies, neemt de vijf aanbevelingen over en zal voor 2024 een plan van aanpak opstellen om verder uitvoering te geven aan de aanbevelingen.
