International Business Machines (IBM) stopt met het onderzoeken, ontwikkelen en aanbieden van producten met gezichtsherkenningstechnologie. Het bedrijf is bang dat deze techniek gebruikt wordt voor massasurveillance en etnisch profileren, wat in strijd is met de basisbeginselen van mensenrechten. Nu is de tijd om een dialoog aan te gaan over of en hoe gezichtsherkenning voor handhavingsinstituties gebruikt moet worden. Dat schrijft IBM-directeur Arvind Krishna in een brief aan het Amerikaanse Congres.
Gezichtsherkenning kan ideaal zijn om geheime en vertrouwelijke gegevens te beveiligen tegen buitenstaanders. Opsporings- en veiligheidsdiensten gebruiken deze techniek om criminelen en verdachten op te sporen en in de gaten te houden. Je zou zeggen dat gezichtsherkenning goed is om onze veiligheid te garanderen.
Tegelijkertijd ligt deze technologie al geruime tijd onder vuur. Tegenstanders en burgerrechtenactivisten vinden dat het op grote schaal herkennen van gezichten in strijd is met de mensenrechten en een ernstige inbreuk is op onze privacy. Steeds meer grote bedrijven zetten hun vraagtekens bij het gebruik van gezichtsherkenning. Vanuit dit kamp is er een brede roep om regulering.
Sundar Pichai, CEO van Alphabet, het moederbedrijf van Google, zei begin dit jaar dat hij van mening is dat overheidsregulering in de toekomst een prominente rol moet spelen bij de inzet van gezichtsherkenning. In zijn ingezonden brief aan de Financial Times verwees hij nadrukkelijk naar de Algemene Verordening Gegevensbescherming (AVG). “Bestaande regels kunnen als een goede basis dienen”, verwijzend naar juridisch verankerde ethische en morele gronden om dergelijke technologie in te zetten. Het gebruik van gezichtsherkenning moet wat Pichai betreft wettelijk vastgelegd worden.
Als het aan de Europese Commissie lag, werd gezichtsherkenning aan strenge regels gebonden. Het dagelijkse bestuur van de EU wil ‘willekeurig gebruik’ van deze technologie aan banden leggen. Op deze manier wil ze de privacy van Europese burgers beschermen. Het liefst ziet ze dat gezichtsherkenningstechnologie verboden wordt in de openbare ruimte. Ook Microsoft en Amazon roepen al enige tijd om gezichtsherkenning te reguleren.
IBM houdt er dezelfde mening op na en meent dat er paal en perk gesteld moet worden aan het gebruik van gezichtsherkenningstechnologie. De aanleiding voor algemeen-directeur Arvind Krishna om een open brief te schrijven aan het Congres, heeft te maken met de dood van George Floyd, Ahmaud Arbery, Breonna Taylor en andere Afro-Amerikanen “die ons eraan herinneren dat de strijd tegen racisme nog altijd actueel is”. IBM wil samenwerken met het Congres om “rechtvaardigheid en rassengelijkheid” te bewerkstelligen.
Volgens Krishna spelen drie beleidsgebieden daarbij een belangrijke rol: hervorming van de politie, verantwoord gebruik van technologie en het vergroten van opleidingsmogelijkheden. Als een politieagent zich misdraagt of excessief geweld gebruikt, moet hij verantwoording afleggen voor de rechter. In de huidige doctrine gaat deze agenten vaak vrijuit, wat in de ogen van de Indisch-Amerikaanse zakenman “een schending van constitutionele rechten” is. Tevens is er wetgeving nodig waardoor agenten wel twee keer nadenken voor ze het boekje te buiten gaan.
Technologie kan transparantie vergroten en de samenleving beschermen, maar mag niet ingezet worden om discriminatie of rassenongelijkheid te bevorderen. Daarom is IBM kritisch over de inzet van gezichtsherkenningstechnologie en analysesoftware. In de ogen van Krishna stelt deze techniek overheden en veiligheidsdiensten in staat om er misbruik van te maken. Massasurveillance en etnisch profileren zijn daar twee schoolvoorbeelden van. Daarmee overschrijden we de basisprincipes van mensenrechten en komt onze vrijheid in het geding. Volgens de CEO is nu het moment om een dialoog te starten “of en hoe gezichtsherkenning door de autoriteiten gebruikt zou moeten worden”.
Volgens de topman is Kunstmatige Intelligentie (AI) een “krachtig hulpmiddel” om Amerikaanse burgers veilig te houden. “Maar aanbieders en gebruikers van AI-systemen hebben een gezamenlijke verantwoordelijkheid om ervoor te zorgen dat AI wordt getoetst op vooringenomenheid, in het bijzonder wanneer het door handhavingsinstanties gebruikt wordt. Er moet toegezien worden op deze vooringenomenheid door controle en rapportage”, aldus Krishna. Anders gezegd, regulering is noodzakelijk als overheden en opsporings- en veiligheidsdiensten op een verantwoorde wijze AI willen inzetten voor de nationale veiligheid en crimineel onderzoek.
De CEO van IBM eindigt zijn brief met de aanbeveling dat het Congres zich inzet om tegemoet te komen aan de vraag van zogeheten ‘new collar jobs’. Dat zijn banen waar zeer gespecialiseerde kennis voor noodzakelijk is. Als voorbeeld noemt Krishna banen in de cybersecurity en cloud computing. Iemand die een traditionele 4-jarige universitaire opleiding heeft afgerond, is niet per definitie in staat om dit werk te kunnen verrichten. Investeringen in banenprogramma’s als P-TECH en Pell Grants zijn hiervoor noodzakelijk.
Ook hier in Nederland speelt gezichtsherkenning een prominente rol. De Autoriteit Persoonsgegevens (AP) zei onlangs dat ze steeds vaker signalen oppikt dat supermarkten deze techniek willen inzetten om winkeldieven te betrappen en herkennen. Dat mag echter niet zomaar, omdat de data die met gezichtsherkenningstechnologie wordt verzameld een vorm van biometrische data is. En volgens de AVG mag dit soort gegevens niet zonder nadrukkelijke toestemming van de klant verzameld worden.
Om die reden heeft de privacywaakhond een brief gestuurd aan het Centraal Bureau Levensmiddelenhandel (CBL). In de brief gaat de AP uitgebreid in op vragen als: wat is gezichtsherkenning volgens de AVG? Wat zijn biometrische gegevens? In welke uitzonderingen mag een supermarkt gezichtsherkenning gebruiken? Hoe kun je als supermarkt aantonen dat er sprake is van een ‘gerechtvaardigd belang’? Ook neemt de toezichthouder contact op met leveranciers van camera’s met gezichtsherkenning.
Bekijk: brief Arvind Krishna aan Amerikaans congres
