Franse politie gebruikt AI-gedreven toezichtcamera's zonder juridische grondslag

Dat blijkt uit een onderzoek van Disclose, een Frans onderzoeksplatform dat toegang kreeg tot interne documenten van het Franse ministerie van Binnenlandse Zaken (1). De documenten tonen aan dat Franse handhavingsinstanties een grootschalig toezichtapparaat hebben opgebouwd met behulp van videotoezichttechnologie geleverd door Briefcam, een Israëlische softwareproducent. De videosoftware maakt het mogelijk om mensen te tracken op basis van verschillende kenmerken, zoals hun kleding en autokenmerk. Op de website verklaart Briefcam dat gezichtsherkenning ook een onderdeel is van hun toezichtsoftware (2).

In Frankrijk is gezichtsherkenning verboden, met zeer beperkte uitzonderingen in het kader van gerechtelijke en administratieve onderzoeken. Dit verbod blijft zelfs van kracht na de invoering van een wet die tijdelijk algoritmisch toezicht toestaat in aanloop naar de Olympische Spelen in Parijs, volgend jaar. (3). Desondanks geeft Disclose aan op basis van betrouwbare bronnen dat nationale politiediensten deze technologie actief blijven gebruiken.

De salesdirecteur voor Europa van Briefcam kan niet uitleggen op welke manier en voor welke specifieke doeleinden zijn software wordt gebruikt. Toch geeft hij aan de onderzoekers aan dat zijn bedrijf de politiediensten van meer dan honderd Franse gemeenten ondersteunt, evenals private organisaties zoals themaparken. Zo'n grootschalig gebruik voor algemene toezichtsdoeleinden zonder tussenkomst van de rechterlijke macht zou zowel het Europese als het Franse recht ernstig schenden, aldus Philippe Latombe, een lid van de Franse Tweede Kamer, tegenover nieuwsorganisatie EURACTIV (4). Volgens Latombe is dat op dit moment officieel niet het geval, maar de bevindingen van het onderzoek doen twijfelen aan het daadwerkelijke gebruik van de software.

Meerdere schendingen

Bij dergelijke grootschalige verwerkingsactiviteiten, met name met nieuwe technologie, legt de Europese wetgeving (Richtlijn 2016/680) nationale handhavingsinstanties de verplichting op om een Data Protection Impact Assessment uit te voeren (5). Dit deed het Franse ministerie van Binnenlandse Zaken niet. Interne documenten, die werden ingezien door Disclose, bevestigen dat het nationale politiebureau de toepassing van Briefcam nooit meldde bij de Franse privacytoezichthouder, de CNIL, zoals wel is vereist onder dezelfde wet.

De CNIL blijkt verrast te zijn door de uitkomst van het onderzoek, gezien ze "niet over de relevante informatie beschikt om te ontkennen of bevestigen dat de Franse nationale politie Briefcam gebruikt".

De AI Act

Ondertussen bespreken het Europees Parlement (EP), de Raad van Ministers en de Europese Commissie de goedkeuring van de AI Act (6). Het gebruik van AI-gedreven gezichtsherkenning door handhavingsautoriteiten is momenteel onderwerp van grote discussie tussen de Raad en het EP, zoals EURACTIV eerder al meldde. Het EP pleit sinds het begin voor een compleet verbod op dergelijke toepassingen. In het meest recente compromisvoorstel heeft het voorzitterschap van de Raad het verbod versoepeld in ruil voor een strengere regulering op andere gebieden, zoals 'foundational models' en generatieve AI. Deze week zetten de drie EU-instanties achter gesloten deuren de onderhandelingen voort.

Bronnen

1. https://disclose.ngo/fr/article/la-police-nationale-utilise-illegalement-un-logiciel-israelien-de-reconnaissance-faciale;

2. https://www.legifrance.gouv.fr/jorf/article_jo/JORFARTI000047561989;

3. https://www.legifrance.gouv.fr/jorf/article_jo/JORFARTI000047561989;

4. https://www.euractiv.com/section/data-privacy/news/french-police-accused-of-using-facial-recognition-software-illegally/;

5. https://eur-lex.europa.eu/legal-content/NL/TXT/PDF/?uri=CELEX:32016L0680;

6. https://privacy-web.nl/nieuws/onderhandelingen-rondom-ai-act-lopen-vast/.