Nieuwe privacy-friendly software toegepast bij toezichtcamera’s in Amsterdam

De gemeente Amsterdam heeft een nieuwe algoritmische toepassing bekendgemaakt voor het opnemen van straatbeelden door middel van toezichtcamera’s. Het algoritme, genaamd ‘Blurring as a Service’, zorgt ervoor dat mensen die in een camerabeeld verschijnen vervaagd en onherkenbaar worden gemaakt. Daarnaast anonimiseert het algoritme ook autokentekens. Wethouder Alexander Scholtes verklaart dat het doel hiervan is om de privacy van Amsterdammers beter te waarborgen, zodat burgers zich niet meer bespioneerd hoeven te voelen wanneer ze op straat lopen.

Om welke toezichtcamera’s gaat het?

De gemeente is al begonnen met het anonimiseren van personen op panoramabeelden gemaakt vanaf straatniveau. Deze beelden zijn jaarlijks ingewonnen door de Gemeente voor verschillende doeleinden met betrekking tot de inspectie van de openbare ruimte. Toch verwijst de gemeente ook naar andere situaties waarbij het algoritme kan worden gebruikt, zoals bij scanauto’s en foto’s gemaakt door burgers die een melding doen. In de toekomst kan het aantal toepassingen toenemen door het trainen van het algoritme met andere soorten foto’s, waardoor mensen ook op normale beelden niet meer herkenbaar zullen zijn. “Hiermee wordt Blurring-as-a-Service breder inzetbaar voor gemeentelijke taken en dienstverlening”, aldus de gemeente. Mogelijk zal de zelfontwikkelde software ook als dienst aan andere gemeenten worden aangeboden.

Non-discriminatie en Fairness:

Het Computer Vision Team van de gemeente heeft de nieuwe tool getraind met ongeveer 10.000 ruwe beelden om mensen te leren herkennen. Daarna hebben de ontwikkelaars een deel daarvan apart gehouden voor de testfase. De gemeente verklaart dat er zoveel mogelijk demografische groepen zijn vertegenwoordigd in de dataset om bias te voorkomen, bijvoorbeeld tegen mensen van kleur of bepaalde leeftijdsgroepen. In een ‘fairness impact assessment’ stelt het Computer Vision Team dat deze bias nu is geminimaliseerd met betrekking tot gender, leeftijd en huidskleur (1). Toch laat het rapport zien dat er nog fouten in het systeem kunnen optreden, zoals het geval is bij kinderen die ver van de camera staan. De gemeente voegt hieraan toe dat ”Het Computer Vision Team gaat het algoritme doorontwikkelen, zodat het nog beter getraind wordt om ook kinderen op grote afstand van de camera succesvol te herkennen en te anonimiseren”, zonder echter een specifieke termijn te vermelden.

Rapportage over Amsterdamse algoritmen:

In een recent rapport toetst de Amsterdamse Rekenkamer het beheerskader voor algoritmen die worden ingezet door de gemeente (2). Hierbij constateert de Rekenkamer dat er niet genoeg duidelijkheid is over de eisen die worden gesteld aan de ‘in-house ontwikkeling van algoritmen’. Hoewel het Amsterdamse beheerskader leveranciers van door de gemeente ingekochte software verplicht om deze voortdurend te monitoren en bij te werken, geldt een vergelijkbare verplichting niet voor algoritmen die de gemeente zelf ontwikkelt, zoals ‘Blurring as a Service’. Niettemin blijkt uit de informatie over de nieuwe software in het Algoritme Register van de gemeente dat er zowel een terugmeldproces is ingeregeld om fouten in de software te corrigeren als een jaarlijkse evaluatie.

Bronnen

https://s3.eu-west-1.amazonaws.com/assets.saidot.ai/customerAssets/Q2l0eSBvZiBBbXN0ZXJkYW0%3D/Fairness%20analyse.pdf?AWSAccessKeyId=AKIAUKM7DXWQ2RQVHRRF&Expires=1856104281&Signature=LajisMnim1LuTtIVYZmIyfU4Rm8%3D;