Gezichtsherkenningstechnologie inzetten om de gemoedstoestand van mensen te bestuderen en identificerende eigenschappen in kaart te brengen gaat Microsoft een stap te ver. Het bedrijf maakt zich zorgen om de privacy en misbruik van deze techniek. Daarom stopt het Amerikaanse hard- en softwarebedrijf per direct met gezichtsherkenningstechnologie die voor deze doeleinden wordt ingezet.
Dat schrijft Microsoft in een blog (1).
Microsoft weet dat gezichtsherkenning voordelen met zich meebrengt voor handhavings- en opsporingsinstanties. Tegelijkertijd erkent het bedrijf dat er ook gevaren en risico’s aan kleven. Om op een verantwoorde manier met deze technologie om te gaan, heeft Microsoft een aantal spelregels opgesteld in een intern document. Daarin worden diverse beveiligings- en voorzorgsmaatregelen opgesomd zodat de techniek op een verstandige en doordachte manier gebruikt wordt.
Microsoft past deze richtlijnen regelmatig aan. Werknemers hebben de regels onlangs nog eens doorgenomen en de eisen nog verder aangescherpt. Nieuwe klanten moeten bijvoorbeeld vanaf nu toegang aanvragen om gezichtsherkenningstechnologie in Azure Face API, Computer Vision en Video Indexer te gebruiken. Bestaande klanten hebben een jaar de tijd om deze goedkeuring te verkrijgen. Vanaf juni 2023 geldt dat ze niet langer gebruik mogen maken van Microsofts gezichtsherkenningstechnologie als de aanvraag niet is goedgekeurd.
“Door beperkte toegang te introduceren, voegen we een extra beschermingslaag toe aan het gebruik en de inzet van gezichtsherkenning om ervoor te zorgen dat het gebruik van deze diensten in overeenstemming is met Microsofts Responsible AI Standard en bijdraagt aan hoogwaardige eindgebruikers en maatschappelijke voordelen”, schrijft de techgigant in zijn blog.
Naast een strenger toelatingsbeleid legt Microsoft zichzelf ook een beperking op. Gezichtsherkenningstechnologie die gebruikt wordt om de emotionele toestand en identiteitskenmerken van mensen te identificeren, wordt per direct aan banden gelegd. Met deze technologie is het mogelijk om te zien of iemand vrolijk, boos of verdrietig is. Ook kun je er persoonlijke eigenschappen mee in kaart brengen, zoals geslacht, make-upgebruik, gezichtsbeharing en de aan- of afwezigheid van tatoeages.
Microsoft vindt dat dergelijke toepassingen op dit moment een brug te ver gaan. “We hebben samengewerkt met interne en externe onderzoekers om de beperkingen en potentiële voordelen van deze technologie te begrijpen en de afwegingen te maken”, schrijft het bedrijf. Daaruit blijkt dat experts zich zorgen maken over onze privacy.
Tevens denken ze dat het onmogelijk is om een verband aan te tonen tussen gezichtsuitdrukking en demografische gegevens. Tot slot is er de angst dat toegang tot dergelijke privacygevoelige gegevens misbruikt kunnen worden voor onder meer discriminatie en uitsluiten van mensen voor dienstverlening.
Nieuwe klanten kunnen per direct geen gebruik maken van gezichtsherkenningstechnologie om de gemoedstoestand en persoonlijke kenmerken van mensen in kaart te brengen. Bestaande klanten hebben tot 30 juni 2023 de tijd om het gebruik van deze attributen stop te zetten.
Over de inzet van gezichtsherkenningstechnologie speelt al langer een verhitte discussie in de VS. In juni kondigde IBM-topman Arvid Krishna aan te stoppen met het onderzoeken, ontwikkelen en aanbieden van producten en diensten met gezichtsherkenningstechnologie. Hij vreesde dat deze techniek wel eens gebruikt zou kunnen worden voor massasurveillance, etnisch profileren en het bevorderen van discriminatie en rassenongelijkheid.
Om dezelfde redenen stopten Amazon en Microsoft destijds ook met de verkoop van gezichtsherkenningstechnologie. Zij wachten tot politici in Washington wetgeving introduceren die meer duidelijkheid geeft over de toepassingsmogelijkheden.
Ook hier in Europa is er een hevige discussie over het gebruik van slimme camera’s met gezichtsherkenningstechnologie. De European Data Protection Board (EDPB) vindt dit een stap richting de inrichting van een massasurveillancemaatschappij. “Een maatschappij waarin je nooit meer ongedwongen over straat loopt. Waarin je niet kunt ontsnappen aan de priemende ogen van systemen die jou in de gaten houden en jou herkennen, dus jou de hele dag kunnen volgen. Je stapt de deur uit en weet: ik word constant in de gaten gehouden. Dat is beklemmend, zorgt dat mensen zich minder vrij voelen om zichzelf te zijn”, zo legde Aleid Wolfsen uit, plaatsvervangend voorzitter van de EDPB.
Om ervoor te zorgen dat de inzet van gezichtsherkenning noodzakelijk en proportioneel is, lanceerde de Europese toezichthouder in mei nieuwe richtlijnen. Als het aan de EDPB ligt wordt gezichtsherkenning in publieke ruimte verboden. Hetzelfde geldt ook voor technologie die mensen indeelt op basis van etniciteit, geslacht, seksualiteit of politieke voorkeur. Uit opbouwen van databases met foto’s die uit openbare bronnen zijn verzameld, is eveneens een no go.
Tot slot pleit de toezichthouder op een verbod voor technologie die emoties herkent. Deze techniek kent naar eigen zeggen alleen maar nadelen. “Denk aan werkgevers die werknemers een slechte beoordeling geven als zij te vaak ‘boos’ kijken terwijl ze achter hun computer zitten, werknemers die moeten glimlachen om toegang tot de werkplek te krijgen, of politie die uit voorzorg mensen staande houdt die volgens het systeem ‘boos’ of ‘ontevreden’ zijn terwijl zij op straat lopen”, aldus Wolfsen.
